1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[kemeriahan orkestra besar
bermain]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[burung berkicau dan memanggil]

6
00:00:48,657 --> 00:00:50,833
-[bergemuruh]
-[bergetar]

7
00:00:55,055 --> 00:00:57,057
[VCR berbunyi klik dan berputar]

8
00:01:00,582 --> 00:01:02,018
[proyektor mengklik]

9
00:01:04,847 --> 00:01:09,286
Sekarang, komputer masa kini
benar-benar bodoh,

10
00:01:09,330 --> 00:01:12,115
tapi ini tidak akan benar
di generasi lain.

11
00:01:12,159 --> 00:01:14,857
Mereka akan mulai berpikir,
dan pada akhirnya mereka akan melakukannya

12
00:01:14,900 --> 00:01:17,599
benar-benar berpikir terlalu jauh
pembuatnya.

13
00:01:17,642 --> 00:01:20,254
Apakah ini menyedihkan?
Saya tidak mengerti mengapa hal itu harus terjadi.

14
00:01:20,297 --> 00:01:24,823
Saya curiga itu organik
atau evolusi biologis

15
00:01:24,867 --> 00:01:26,303
telah hampir mencapai akhir.

16
00:01:27,739 --> 00:01:29,524
[Daniel terkekeh]

17
00:01:29,567 --> 00:01:30,655
CAROLINE: Kamu tidak menginginkanku
untuk menjadi narator.

18
00:01:30,699 --> 00:01:32,353
Saya tidak memiliki suara yang bagus.

19
00:01:32,396 --> 00:01:34,006
DANIEL: Suaramu bagus.
Lakukan saja.

20
00:01:34,050 --> 00:01:36,183
Itu hanya--
kami hanya mencobanya.

21
00:01:36,226 --> 00:01:37,967
KAROLINE:
Apakah aku dibayar untuk omong kosong ini?

22
00:01:38,010 --> 00:01:40,230
DANIEL [tertawa]: Ya,
kita akan melihat seberapa baik Anda melakukannya.

23
00:01:40,274 --> 00:01:41,579
[Caroline tertawa]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[anjing menggonggong]

25
00:01:46,454 --> 00:01:47,890
KAROLINE:
Aku perlu menelepon orang tuaku.

26
00:01:47,933 --> 00:01:49,065
[mesin menyala]

27
00:01:49,109 --> 00:01:51,023
Terkadang kita terburu-buru dalam melakukan sesuatu

28
00:01:51,067 --> 00:01:52,851
tanpa memikirkannya matang-matang.

29
00:01:52,895 --> 00:01:54,723
DANIEL: Ya, bisakah kamu...
kamu ingin menembak? Itu...

30
00:01:54,766 --> 00:01:57,204
CAROLINE: Seperti saat Daniel
dan Caroline menikah

31
00:01:57,247 --> 00:02:00,163
151 hari setelah mereka bertemu.

32
00:02:00,207 --> 00:02:01,817
Mari kita mundur.

33
00:02:03,079 --> 00:02:04,776
[tepuk tangan]

34
00:02:04,820 --> 00:02:07,170
Pernahkah Anda memikirkannya
membeli komputer di rumah?

35
00:02:07,214 --> 00:02:09,303
KAROLINE:
Pada tahun 1993, ketika Daniel lahir,

36
00:02:09,346 --> 00:02:12,132
orang tuanya bahkan tidak memilikinya
komputer di rumah.

37
00:02:12,175 --> 00:02:13,785
Tapi dia ingat
ketika mereka akhirnya mendapatkannya.

38
00:02:13,829 --> 00:02:15,700
Apa arti komputer bagi saya

39
00:02:15,744 --> 00:02:18,355
setara dengan sepeda
untuk pikiran kita.

40
00:02:18,399 --> 00:02:20,227
Halo.

41
00:02:20,270 --> 00:02:22,185
CAROLINE: Komputernya membantu
mengeluarkan kreativitasnya.

42
00:02:22,229 --> 00:02:23,926
DANIEL:
Bergulir. Pergi.

43
00:02:23,969 --> 00:02:26,581
CAROLINE: Dia menggunakan
iMac ayahnya untuk mengedit video.

44
00:02:26,624 --> 00:02:28,322
Ya!

45
00:02:28,365 --> 00:02:29,932
CAROLINE: Dan bahkan membuat
animasi kecil.

46
00:02:29,975 --> 00:02:31,934
[ban berdecit, tabrakan]

47
00:02:31,977 --> 00:02:35,067
Pada tahun 1998, ketika Caroline berada
seorang gadis kecil...

48
00:02:35,111 --> 00:02:36,721
Hai ibu.

49
00:02:36,765 --> 00:02:38,158
...hanya kutu buku yang tahu
apa itu Internet.

50
00:02:38,201 --> 00:02:39,811
Dan bagaimana dengan
masalah Internet ini?

51
00:02:39,855 --> 00:02:41,335
-Apakah kamu, apakah kamu tahu sesuatu
tentang itu? -Tentu.

52
00:02:41,378 --> 00:02:42,771
-[penonton tertawa]
-CAROLINE: Tapi segera,

53
00:02:42,814 --> 00:02:44,903
-semua orang ada di...
-...Internet.

54
00:02:44,947 --> 00:02:46,992
...dan komputer
mengalahkan manusia dalam catur.

55
00:02:47,036 --> 00:02:49,995
PENYIAR: Biru Tua--
Kasparov telah mengundurkan diri!

56
00:02:50,039 --> 00:02:52,607
CAROLINE: Dan pada saat itu
Caroline kuliah,

57
00:02:52,650 --> 00:02:55,087
komputer itu
di saku semua orang.

58
00:02:55,131 --> 00:02:58,395
Sekarang Daniel bisa membuat film
dengan teleponnya.

59
00:02:58,439 --> 00:03:01,485
Dia tumbuh menjadi seorang seniman
dan pembuat film...

60
00:03:01,529 --> 00:03:03,922
-Selamat malam.
-...dan begitu pula Caroline.

61
00:03:03,966 --> 00:03:05,707
Memotong. Mari kita melihat dari dekat.
Itu sempurna.

62
00:03:05,750 --> 00:03:07,274
Pada saat itu, komputer sudah ada
menghubungkan orang

63
00:03:07,317 --> 00:03:08,971
dan mengubah dunia dengan berbagai cara

64
00:03:09,014 --> 00:03:10,668
bahwa kita tidak pernah
bisa dibayangkan.

65
00:03:10,712 --> 00:03:12,322
Semua uang yang dikumpulkan oleh
tantangan ember es...

66
00:03:12,366 --> 00:03:14,194
KAROLINE:
Beberapa di antaranya bagus.

67
00:03:14,237 --> 00:03:15,499
[terengah-engah]

68
00:03:15,543 --> 00:03:17,109
Beberapa tidak begitu bagus.

69
00:03:17,153 --> 00:03:19,286
Kecemasan, menyakiti diri sendiri, bunuh diri...

70
00:03:19,329 --> 00:03:21,201
Tapi sudah jelas sekarang
bahwa kami tidak berbuat cukup

71
00:03:21,244 --> 00:03:24,552
untuk mencegah alat ini
juga digunakan untuk hal yang merugikan.

72
00:03:24,595 --> 00:03:26,380
CAROLINE: Dan sebagai dunia
menjadi lebih dan lebih fokus

73
00:03:26,423 --> 00:03:28,033
-di komputer mereka,
-[telepon berbunyi]

74
00:03:28,077 --> 00:03:30,210
Daniel fokus pada karya seninya.

75
00:03:32,037 --> 00:03:35,606
Ke mana pun dia pergi,
dia selalu punya buku sketsa,

76
00:03:35,650 --> 00:03:38,392
termasuk malam hari
dia bertemu Caroline.

77
00:03:38,435 --> 00:03:41,656
Dia membuat gambaran yang mengerikan
dari dia, dan 20 menit kemudian,

78
00:03:41,699 --> 00:03:44,136
dia dengan berani mengucapkannya
mereka akan menikah,

79
00:03:44,180 --> 00:03:47,575
yang, seperti yang Anda tahu, mereka lakukan,
151 hari kemudian.

80
00:03:47,618 --> 00:03:49,925
WANITA: ...sekarang ucapkan kamu
suami dan istri.

81
00:03:49,968 --> 00:03:51,666
KAROLINE:
Mereka pindah ke sebuah rumah yang lucu...

82
00:03:51,709 --> 00:03:52,841
-DANIEL: Rusa besar, hei! Kemarilah!
-...dan memelihara seekor anjing

83
00:03:52,884 --> 00:03:54,669
sama bodohnya dengan Daniel.

84
00:03:54,712 --> 00:03:57,280
Sementara itu, komputer
menulis seluruh esai

85
00:03:57,324 --> 00:03:59,326
berdasarkan pertanyaan sederhana seperti,

86
00:03:59,369 --> 00:04:03,155
“Betapa sulitnya membangunnya
sebuah gubuk di halaman belakang rumahku?"

87
00:04:03,199 --> 00:04:07,072
Maka Daniel membangun sebuah gubuk
di halaman belakang rumahnya.

88
00:04:07,116 --> 00:04:09,945
Tapi saat dia duduk untuk memulai
sedang mengerjakan film berikutnya,

89
00:04:09,988 --> 00:04:13,644
dia belajar komputer itu
sekarang bisa menulis skenario.

90
00:04:14,863 --> 00:04:16,560
Maksudku, mereka jahat,

91
00:04:16,604 --> 00:04:18,954
tapi mereka menjadi lebih baik
sangat cepat.

92
00:04:18,997 --> 00:04:21,652
Mereka bisa menciptakan citra baru
dan video dari awal,

93
00:04:21,696 --> 00:04:24,786
dan beberapa di antaranya
bahkan bisa lulus ujian pengacara.

94
00:04:24,829 --> 00:04:28,833
Bukan hanya melewati mistar tapi
berada di sepuluh persentil teratas.

95
00:04:28,877 --> 00:04:30,531
KAROLINE:
Itu membingungkan.

96
00:04:30,574 --> 00:04:32,141
[menghela napas]

97
00:04:32,184 --> 00:04:35,057
Daniel hanya ingin
sepeda untuk pikirannya,

98
00:04:35,100 --> 00:04:38,626
tetapi komputer telah menjadi
sebuah kapal roket yang bisa mengemudi sendiri.

99
00:04:38,669 --> 00:04:40,236
[berdesing]

100
00:04:40,280 --> 00:04:41,977
["Kami memegang kendali"
oleh Neil Young bermain]

101
00:04:42,020 --> 00:04:44,762
Pelopor di bidangnya
dari kecerdasan buatan

102
00:04:44,806 --> 00:04:46,503
memohon kepada Kongres

103
00:04:46,547 --> 00:04:48,505
untuk melewati peraturan keselamatan
sebelum terlambat.

104
00:04:48,549 --> 00:04:50,551
CAROLINE: Sekarang rasanya seperti itu
seluruh dunia

105
00:04:50,594 --> 00:04:52,988
sedang terburu-buru melakukan sesuatu
tanpa memikirkannya matang-matang,

106
00:04:53,031 --> 00:04:56,339
dan semua orang punya pendapat.

107
00:04:56,383 --> 00:05:00,125
Apakah itu akan menghancurkan dunia
atau menyelamatkan umat manusia?

108
00:05:00,169 --> 00:05:02,389
Ada terlalu banyak informasi,

109
00:05:02,432 --> 00:05:04,652
yang membuatnya cemas,
yang membuat Caroline cemas...

110
00:05:04,695 --> 00:05:06,001
[teriakan jengkel]

111
00:05:06,044 --> 00:05:07,785
Saya belum punya anak,
tapi aku khawatir

112
00:05:07,829 --> 00:05:10,179
seperti apa dunia ini nantinya
jika saya memutuskan untuk melakukannya. [terkekeh]

113
00:05:10,222 --> 00:05:12,355
KAROLINE:
Dia mulai berputar keluar.

114
00:05:12,399 --> 00:05:14,052
[obrolan tidak jelas]

115
00:05:14,096 --> 00:05:16,925
Hal itu menjadi
segunung kecemasan.

116
00:05:19,144 --> 00:05:21,364
-MAN: Mengerikan.
-Itu Siri yang aneh.

117
00:05:22,670 --> 00:05:25,586
KAROLINE:
Maka, Daniel memutuskan untuk keluar

118
00:05:25,629 --> 00:05:27,979
dan temukan seseorang
siapa yang bisa menjelaskan hal ini kepadanya,

119
00:05:28,023 --> 00:05:30,155
jadi dia bisa berhenti
memikirkannya

120
00:05:30,199 --> 00:05:33,463
dan dia serta Caroline bisa
melanjutkan hidup mereka.

121
00:05:33,507 --> 00:05:36,814
♪ Kami memegang kendali,
kita memegang kendali ♪

122
00:05:36,858 --> 00:05:38,729
♪ Kami memegang kendali ♪

123
00:05:38,773 --> 00:05:40,514
♪ Komputer kimia
berpikir baterai ♪

124
00:05:40,557 --> 00:05:42,559
♪ Kita memegang kendali, kita... ♪

125
00:05:42,603 --> 00:05:45,693
Upaya ini akan berhasil
menjadi sangat naif

126
00:05:45,736 --> 00:05:49,044
dan memulai yang paling membingungkan
tahun hidupnya.

127
00:05:49,087 --> 00:05:50,698
♪ Kami memegang kendali... ♪

128
00:05:50,741 --> 00:05:52,787
Tapi seperti yang kita tahu,
terkadang kita terburu-buru dalam melakukan sesuatu

129
00:05:52,830 --> 00:05:54,615
tanpa memikirkannya matang-matang.

130
00:05:54,658 --> 00:05:56,356
♪ Komputer kimia
memikirkan baterai... ♪

131
00:05:56,399 --> 00:05:57,922
Ya ampun. Apa yang terjadi?

132
00:05:57,966 --> 00:05:59,924
KAROLINE:
Dia punya pertanyaan.

133
00:05:59,968 --> 00:06:01,578
Pertanyaan hanya itu
yang bisa dijawab oleh para kutu buku terpintar.

134
00:06:01,622 --> 00:06:04,146
Menyerahkan kepada interogator.

135
00:06:04,189 --> 00:06:06,017
KAROLINE:
Pertanyaan seperti:

136
00:06:06,061 --> 00:06:08,585
Apakah ini kiamat
atau apakah dia benar-benar punya alasan

137
00:06:08,629 --> 00:06:11,109
-untuk menjadi optimis?
-Ya.

138
00:06:11,153 --> 00:06:13,764
-♪ Pemikiran komputer kimia
baterai. ♪ -[lagu berakhir]

139
00:06:13,808 --> 00:06:16,158
KAROLINE:
Eh, apakah itu bagus?

140
00:06:16,201 --> 00:06:17,594
DANIEL:
Ya.

141
00:06:17,638 --> 00:06:20,162
Jadi, untuk memulai,

142
00:06:20,205 --> 00:06:22,120
apa itu kecerdasan buatan?

143
00:06:22,164 --> 00:06:24,688
Aku tahu itu pasti menjengkelkan
untukmu, pertanyaan itu-itu,

144
00:06:24,732 --> 00:06:26,473
tapi menurutku itu penting.

145
00:06:26,516 --> 00:06:29,780
Jadi... AI...

146
00:06:29,824 --> 00:06:31,826
[tergagap] Um...

147
00:06:31,869 --> 00:06:33,654
-Ya...
-Eh, hmm.

148
00:06:33,697 --> 00:06:34,742
[tertawa]:
Itu pertanyaan yang bagus.

149
00:06:34,785 --> 00:06:36,178
-Ya, um...
-Um...

150
00:06:36,221 --> 00:06:37,658
DANIEL:
Apa itu AI?

151
00:06:37,701 --> 00:06:39,094
[tertawa]

152
00:06:39,137 --> 00:06:40,748
Saya suka itu
pertanyaan pertama,

153
00:06:40,791 --> 00:06:43,141
karena tidak ada
jawaban yang jelas dan konsisten.

154
00:06:43,185 --> 00:06:45,274
Kecerdasan buatan adalah

155
00:06:45,317 --> 00:06:50,714
semacam sengaja
dan mungkin istilah luas yang tidak berguna.

156
00:06:50,758 --> 00:06:53,325
DAVID EVAN HARRIS:
Itu sebuah mesin

157
00:06:53,369 --> 00:06:55,545
melakukan hal-hal itu
kami sebelumnya hanya berpikir

158
00:06:55,589 --> 00:06:57,242
yang bisa dilakukan orang:

159
00:06:57,286 --> 00:07:01,116
membuat rekomendasi,
keputusan dan prediksi.

160
00:07:01,159 --> 00:07:06,774
AI adalah, eh, aplikasinya
ilmu komputer

161
00:07:06,817 --> 00:07:09,124
untuk memecahkan masalah kognitif.

162
00:07:09,167 --> 00:07:13,302
Oke, jadi saat saya membayangkan AI,

163
00:07:13,345 --> 00:07:16,740
itu seperti
kotak komputer ajaib ini...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
...seperti, mengambang
di, seperti, ruang inert.

166
00:07:24,139 --> 00:07:26,446
Dan tidak masalah
berapa kali orang mencoba

167
00:07:26,489 --> 00:07:29,710
dan jelaskan ini padaku,
Aku hanya tidak mengerti bagaimana...

168
00:07:29,753 --> 00:07:32,495
bagaimana pemahamannya
semua hal ini

169
00:07:32,539 --> 00:07:35,672
dan bagaimana rasanya
intelijen.

170
00:07:35,716 --> 00:07:37,152
[bip, obrolan elektronik]

171
00:07:37,195 --> 00:07:39,241
Dan itu semacam itu
menegangkan.

172
00:07:41,243 --> 00:07:45,552
AZA RASKIN: Apa itu
AI generasi baru ini?

173
00:07:47,205 --> 00:07:50,078
AI ini berbeda dari
setiap generasi lainnya?

174
00:07:50,121 --> 00:07:52,733
Seperti, tidak pernah ada seorang pun
dibicarakan, seperti,

175
00:07:52,776 --> 00:07:56,911
Siri mengambil alih dunia
atau menyebabkan bencana.

176
00:07:56,954 --> 00:07:58,478
-WANITA: Hai, Siri?
-MAN: ...ingin.

177
00:07:58,521 --> 00:08:00,523
WANITA:
Halo? Siri?

178
00:08:00,567 --> 00:08:02,569
Halo? Hei, Siri!

179
00:08:02,612 --> 00:08:05,746
Atau suara di Google Maps,
yang salah mengucapkan nama jalan,

180
00:08:05,789 --> 00:08:07,487
seperti, menghancurkan masyarakat.

181
00:08:07,530 --> 00:08:10,620
MAN: Kata Google Maps
ini adalah jalan.

182
00:08:10,664 --> 00:08:13,057
[tertawa]:
Tapi saya pikir saya berada di sungai.

183
00:08:13,101 --> 00:08:14,624
Ini pastinya sungai,
kan?

184
00:08:14,668 --> 00:08:17,192
Sesuatu berubah
dengan ChatGPT keluar.

185
00:08:18,193 --> 00:08:19,934
Orang-orang mengerti-- tidak, tidak, tidak--

186
00:08:19,977 --> 00:08:21,457
teknologi ini
sangat berharga,

187
00:08:21,501 --> 00:08:23,633
itu sangat kuat
dan juga sangat menakutkan.

188
00:08:23,677 --> 00:08:25,548
Oke, dengarkan ini.
Sangat menyeramkan.

189
00:08:25,592 --> 00:08:28,595
Kecerdasan buatan baru
alat menjadi viral

190
00:08:28,638 --> 00:08:32,294
untuk menyusun seluruh esai
dalam hitungan detik.

191
00:08:35,950 --> 00:08:41,172
AI mengecilkan kekuatan semua orang
gabungan teknologi lainnya.

192
00:08:41,216 --> 00:08:43,697
DANIEL:
“AI mengecilkan kekuatannya

193
00:08:43,740 --> 00:08:46,047
dari semua teknologi lainnya
digabungkan."

194
00:08:46,090 --> 00:08:47,222
Ya.

195
00:08:47,265 --> 00:08:48,702
Apakah menurut Anda itu benar?

196
00:08:48,745 --> 00:08:50,747
Ya.

197
00:08:50,791 --> 00:08:53,184
Ceritakan padaku tentang-- Bagaimana caranya? Bagaimana?

198
00:08:53,228 --> 00:08:56,710
Saya pikir, untuk melukiskan gambaran itu,
itu sangat penting

199
00:08:56,753 --> 00:09:00,627
untuk memahami apa yang terjadi hari ini
sistem yang canggih

200
00:09:00,670 --> 00:09:02,150
terlihat seperti dan bagaimana mereka dibangun.

201
00:09:02,193 --> 00:09:05,762
[tertawa] Ini
cukup... pengaturan yang cukup.

202
00:09:05,806 --> 00:09:07,242
Jadi, satu hal itu

203
00:09:07,285 --> 00:09:09,679
tidak banyak orang
sadari adalah itu

204
00:09:09,723 --> 00:09:13,683
sistem seperti ChatGPT tidak
diprogram oleh manusia mana pun.

205
00:09:13,727 --> 00:09:15,206
Apa maksudmu?

206
00:09:15,250 --> 00:09:16,991
Sebaliknya, itu seperti
i-mereka sudah dewasa.

207
00:09:17,034 --> 00:09:19,167
Kami memberikannya kepada mereka
sumber daya mentah, seperti,

208
00:09:19,210 --> 00:09:20,995
"Ini banyak sekali
sumber daya komputasi.

209
00:09:21,038 --> 00:09:22,170
Ini banyak datanya."

210
00:09:22,213 --> 00:09:23,867
Di balik terpal, itu adalah matematika,

211
00:09:23,911 --> 00:09:27,305
dan matematika sebenarnya
ternyata sangat mudah.

212
00:09:27,349 --> 00:09:31,092
DANIEL: Jadi ChatGPT itu sejenis
AI tetapi tidak semuanya AI?

213
00:09:31,135 --> 00:09:32,659
Sama sekali. ObrolanGPT adalah
hanya permulaan,

214
00:09:32,702 --> 00:09:34,095
tapi ini tempat yang bagus untuk memulai.

215
00:09:34,138 --> 00:09:37,794
Tapi saya masih belum tahu
apa itu AI.

216
00:09:37,838 --> 00:09:40,362
Untuk memahami AI,
itu dimulai dengan pemahaman

217
00:09:40,405 --> 00:09:43,147
tentang kecerdasan itu
mengenali pola.

218
00:09:43,191 --> 00:09:44,845
-Pola. -Pola.
-Pola.

219
00:09:44,888 --> 00:09:48,544
COTRA: Hal ini ditunjukkan
triliunan kata dalam teks

220
00:09:48,588 --> 00:09:51,286
di jutaan dokumen
di Internet.

221
00:09:51,329 --> 00:09:52,766
RANDIMA FERNANDO:
Ini dimulai dengan teks.

222
00:09:52,809 --> 00:09:55,899
Dan yang mereka lakukan adalah
mereka mengambil buku pelajaran,

223
00:09:55,943 --> 00:09:59,511
dan mereka mengambil puisi dan esai
dan buku petunjuk.

224
00:09:59,555 --> 00:10:00,861
DAVID EVAN HARRIS:
Mereka dapat melakukan hal-hal seperti

225
00:10:00,904 --> 00:10:03,124
mencerna seluruh Internet,

226
00:10:03,167 --> 00:10:06,736
setiap kata yang pernah ada
telah ditulis oleh seseorang.

227
00:10:06,780 --> 00:10:09,957
Utas Reddit dan media sosial
dan seluruh Wikipedia.

228
00:10:10,000 --> 00:10:13,613
Lebih banyak data daripada yang bisa dilakukan siapa pun
pernah dibaca dalam beberapa kehidupan.

229
00:10:13,656 --> 00:10:15,484
Dan mereka memberikan sistem ini
satu pekerjaan.

230
00:10:15,527 --> 00:10:18,487
Cari tahu polanya dan
struktur informasi itu

231
00:10:18,530 --> 00:10:20,750
dan gunakan itu
untuk membuat prediksi tentang

232
00:10:20,794 --> 00:10:23,231
kata apa yang harus muncul selanjutnya
dalam sebuah kalimat.

233
00:10:23,274 --> 00:10:24,972
Saat kamu berkata
"pola dalam sebuah kalimat,"

234
00:10:25,015 --> 00:10:26,756
apa yang kamu bicarakan?

235
00:10:26,800 --> 00:10:29,367
Jadi, semuanya mulai dari, seperti,
hal yang sangat sederhana,

236
00:10:29,411 --> 00:10:31,979
seperti kebanyakan kalimat berakhir
dengan suatu periode,

237
00:10:32,022 --> 00:10:34,895
sepanjang jalan hingga ke
hal-hal yang lebih konseptual, seperti:

238
00:10:34,938 --> 00:10:36,766
Apa itu soneta?

239
00:10:36,810 --> 00:10:38,333
Itu sejenis puisi, dan memang demikian
beberapa struktur tertentu.

240
00:10:39,421 --> 00:10:41,249
RASKIN:
Jadi, ia kemudian melihat

241
00:10:41,292 --> 00:10:43,599
semua data itu,
semua teks itu...

242
00:10:43,643 --> 00:10:46,036
COTRA: Dan lebih dari triliunan
dan triliunan percobaan,

243
00:10:46,080 --> 00:10:48,778
setiap kali ia mendapatkan sesuatu
benar atau salah,

244
00:10:48,822 --> 00:10:51,259
itu diberikan sedikit
penguatan positif

245
00:10:51,302 --> 00:10:53,391
ketika ia menebak
kata berikutnya dengan benar,

246
00:10:53,435 --> 00:10:55,698
dan itu diberikan sedikit
penguatan negatif

247
00:10:55,742 --> 00:10:59,354
ketika ia menebak
kata berikutnya salah.

248
00:10:59,397 --> 00:11:01,573
Dan pada akhirnya,
Anda memiliki sistem itu

249
00:11:01,617 --> 00:11:05,055
berbicara bahasa Inggris dengan sangat baik
sebagai efek samping

250
00:11:05,099 --> 00:11:06,796
menjadi sangat, sangat baik
dalam memprediksi

251
00:11:06,840 --> 00:11:09,059
kata yang muncul berikutnya
dalam sepotong teks.

252
00:11:09,103 --> 00:11:12,019
SUARA OTOMATIS [dalam bahasa Prancis]:
Sebenarnya, bahasa Prancis saya
juga tidak terlalu buruk.

253
00:11:12,062 --> 00:11:14,021
[dalam bahasa Inggris]: Menggunakan semua
pola-pola yang telah dipelajarinya

254
00:11:14,064 --> 00:11:15,675
untuk dapat membuat
sebuah prediksi tentang

255
00:11:15,718 --> 00:11:17,241
apa jawabannya yang seharusnya,

256
00:11:17,285 --> 00:11:18,808
maka itu memberi Anda itu
sebagai keluarannya.

257
00:11:18,852 --> 00:11:21,028
SUARA OTOMATIS:
Ini sedikit disederhanakan,

258
00:11:21,071 --> 00:11:23,073
tapi saya pikir orang akan mendapatkannya.

259
00:11:23,117 --> 00:11:24,945
Jadi, jadi hanya itu fungsinya?

260
00:11:24,988 --> 00:11:26,816
Ya. Sepertinya tidak
itu akan menjadi rumit,

261
00:11:26,860 --> 00:11:28,035
tapi sebenarnya kamu harus tahu

262
00:11:28,078 --> 00:11:29,645
sejumlah besar hal

263
00:11:29,689 --> 00:11:31,386
untuk
benar-benar berhasil dalam hal itu.

264
00:11:32,517 --> 00:11:34,258
RASKIN:
Jika Anda mengatakan kepada ChatGPT,

265
00:11:34,302 --> 00:11:36,696
"Tuliskan untukku sebuah Shakespeare
soneta tentang anjingku,"

266
00:11:36,739 --> 00:11:38,785
ia harus tahu apa itu anjing.

267
00:11:38,828 --> 00:11:40,438
-Ia harus mengetahui apa yang Anda sukai
tentang anjingmu.-[menggonggong]

268
00:11:40,482 --> 00:11:43,006
Ia harus mengetahuinya
siapa Shakespeare,

269
00:11:43,050 --> 00:11:45,574
sajak soneta itu,
bahwa mereka memiliki struktur,

270
00:11:45,617 --> 00:11:47,750
bahwa kata-kata mempunyai suara
yang bisa berima.

271
00:11:47,794 --> 00:11:49,273
Dibutuhkan banyak hal.

272
00:11:49,317 --> 00:11:50,884
[suara tumpang tindih
dalam berbagai bahasa]

273
00:11:50,927 --> 00:11:52,929
Sialan, kamu bisa bicara
ke komputer Anda sekarang.

274
00:11:52,973 --> 00:11:56,063
Itu tidak benar
tiga tahun lalu.

275
00:11:56,106 --> 00:11:57,629
RASKIN: Ya, dan ini benar
bagian yang sangat penting.

276
00:11:57,673 --> 00:12:00,589
Proses yang sama yang memungkinkan AI

277
00:12:00,632 --> 00:12:03,157
mengungkap dan memanipulasi
pola teks

278
00:12:03,200 --> 00:12:05,768
adalah proses yang sama
yang memungkinkannya terungkap

279
00:12:05,812 --> 00:12:10,512
pola keseluruhan
alam semesta dan segala isinya.

280
00:12:10,555 --> 00:12:12,862
FERNANDO: Ada polanya
dan gambar dan suara

281
00:12:12,906 --> 00:12:15,952
dalam kode komputer dan DNA
dan musik dan fisika

282
00:12:15,996 --> 00:12:18,476
dan mode dan desain bangunan

283
00:12:18,520 --> 00:12:21,566
[terdistorsi]: dan masuk
suara manusia dan wajah manusia,

284
00:12:21,610 --> 00:12:23,917
[biasanya]:
sungguh, sungguh di mana-mana.

285
00:12:23,960 --> 00:12:26,006
-Di mana pun. -Di mana pun.
-Di mana pun. -Di mana pun.

286
00:12:26,049 --> 00:12:27,747
Jika Anda sudah belajar
pola-pola itu,

287
00:12:27,790 --> 00:12:29,661
Anda dapat menghasilkan
jenis lagu baru.

288
00:12:29,705 --> 00:12:31,141
Anda dapat menghasilkan video baru.

289
00:12:31,185 --> 00:12:32,621
Dan itulah alasannya, jika Anda memberikannya

290
00:12:32,664 --> 00:12:34,710
rekaman tiga detik
dari nenekmu,

291
00:12:34,754 --> 00:12:36,538
itu bisa berbicara kembali dalam suaranya.

292
00:12:36,581 --> 00:12:37,931
Astaga.

293
00:12:37,974 --> 00:12:40,585
[berulang]:
Ya Tuhan. Astaga.

294
00:12:40,629 --> 00:12:42,849
Apa yang akan mereka pikirkan selanjutnya?

295
00:12:42,892 --> 00:12:44,024
Ini bergerak sangat, sangat cepat.

296
00:12:44,067 --> 00:12:45,808
Sebuah start-up AI Amerika

297
00:12:45,852 --> 00:12:47,592
telah merilis model terbarunya.

298
00:12:47,636 --> 00:12:50,770
Perusahaan itu adalah Anthropic,
dan itu baru saja diluncurkan

299
00:12:50,813 --> 00:12:53,773
versi terbaru
dari asisten AI-nya, Claude.

300
00:12:53,816 --> 00:12:57,167
GLENN BECK: Jadi, tim xAI
ada di sana untuk mengungkap Grok 4.

301
00:12:57,211 --> 00:13:00,127
MAN: Google merilis satu
baru minggu lalu. Gemini adalah...

302
00:13:00,170 --> 00:13:02,999
Kami telah beralih dari GPT-2
hanya beberapa tahun yang lalu,

303
00:13:03,043 --> 00:13:05,523
yang hampir tidak bisa menulis
paragraf yang koheren,

304
00:13:05,567 --> 00:13:07,961
ke GPT-4,
yang bisa lulus ujian pengacara.

305
00:13:08,004 --> 00:13:10,354
Dan semua yang harus mereka lakukan
untuk sampai ke sana

306
00:13:10,398 --> 00:13:12,966
pada dasarnya menambahkan lebih banyak data
dan lebih banyak komputasi.

307
00:13:13,009 --> 00:13:16,273
-Orang-orang ini
membangun ini... -COTRA: Ya.

308
00:13:16,317 --> 00:13:18,014
...mereka hanya melempar lebih banyak...

309
00:13:18,058 --> 00:13:21,801
Lebih banyak komputer fisik,
lebih banyak jenis data yang sama.

310
00:13:21,844 --> 00:13:24,542
Karena semakin banyak
kekuatan komputasi yang Anda tambahkan,

311
00:13:24,586 --> 00:13:28,024
semakin kompleks
tugas intelektual yang dapat mereka lakukan.

312
00:13:28,068 --> 00:13:30,157
Jadi, semakin banyak data cuacanya
kamu memberikannya,

313
00:13:30,200 --> 00:13:31,898
semakin baik yang bisa dilakukannya
membuat prediksi tentang

314
00:13:31,941 --> 00:13:34,204
kemana badai akan terjadi.

315
00:13:34,248 --> 00:13:36,337
RASKIN: Dan semakin banyak polanya
dari tumor dan tulang

316
00:13:36,380 --> 00:13:38,861
dan jaringan yang pernah dilihat AI,
maka semakin baik kemampuannya

317
00:13:38,905 --> 00:13:41,951
untuk mendeteksi tumor
dalam CT scan baru.

318
00:13:41,995 --> 00:13:43,648
Bahkan lebih baik dari dokter manusia.

319
00:13:43,692 --> 00:13:46,956
AI yang sudah ada
dikerahkan untuk militer

320
00:13:47,000 --> 00:13:49,132
sudah bisa digunakan
citra satelit,

321
00:13:49,176 --> 00:13:51,787
pergerakan pasukan, komunikasi
untuk menentukan,

322
00:13:51,831 --> 00:13:53,354
-terkadang beberapa hari sebelumnya,
-[sirene pertahanan sipil berbunyi]

323
00:13:53,397 --> 00:13:55,008
di mana serangan
akan terjadi,

324
00:13:55,051 --> 00:13:57,401
seperti di mana musuh
akan menyerang.

325
00:13:57,445 --> 00:13:59,447
TRISTAN HARRIS: Keseluruhan ini
ruang bergerak begitu cepat

326
00:13:59,490 --> 00:14:01,666
itu contoh apa pun
Anda masukkan ke dalam film ini

327
00:14:01,710 --> 00:14:04,582
akan merasa sangat canggung
pada saat itu keluar.

328
00:14:04,626 --> 00:14:06,671
[bip, klik]

329
00:14:09,326 --> 00:14:11,198
-[tepuk tangan]
-[musik ceria diputar]

330
00:14:11,241 --> 00:14:14,114
RASKIN:
Model-model ini sedang dirilis

331
00:14:14,157 --> 00:14:17,073
sebelum ada yang tahu
apa yang mereka mampu lakukan.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 dirilis dan keluar
hingga 100 juta orang lebih

333
00:14:22,557 --> 00:14:25,952
sebelum beberapa peneliti
menemukan bahwa hal itu bisa dilakukan

334
00:14:25,995 --> 00:14:28,737
kimia tingkat penelitian
lebih baik dari model

335
00:14:28,780 --> 00:14:32,784
yang dilatih secara khusus
untuk melakukan kimia tingkat penelitian.

336
00:14:32,828 --> 00:14:35,439
Sesuatu sedang terjadi di sana
itu orang-orang

337
00:14:35,483 --> 00:14:38,268
siapa yang membangunnya
tidak sepenuhnya mengerti.

338
00:14:38,312 --> 00:14:40,967
Pada dasarnya, ini hanya menganalisis
data itu sendiri,

339
00:14:41,010 --> 00:14:45,058
dan ketika hal itu terjadi,
itu hanya mengajar dirinya sendiri

340
00:14:45,101 --> 00:14:47,974
berbagai hal
yang seringkali tidak kita niatkan.

341
00:14:48,017 --> 00:14:49,932
Jadi, misalnya,
itu banyak dibaca secara online,

342
00:14:49,976 --> 00:14:52,543
dan kemudian pada titik tertentu, itu saja
belajar bagaimana melakukan aritmatika.

343
00:14:52,587 --> 00:14:54,458
ANAK-ANAK:
Satu, dua.

344
00:14:54,502 --> 00:14:56,112
HENDRYCKS: Lalu pada
pada titik tertentu, ia mulai belajar

345
00:14:56,156 --> 00:14:58,549
bagaimana menjawabnya
pertanyaan fisika tingkat lanjut.

346
00:14:58,593 --> 00:15:00,769
Kami tidak memprogramnya
di dalamnya apa pun.

347
00:15:00,812 --> 00:15:02,423
Itu hanya dipelajari dengan sendirinya.

348
00:15:05,382 --> 00:15:07,254
TRITAN HARRIS:
AI itu seperti otak digital.

349
00:15:07,297 --> 00:15:08,690
Tapi seperti otak manusia,

350
00:15:08,733 --> 00:15:10,518
jika Anda melakukan scan otak
di otak manusia,

351
00:15:10,561 --> 00:15:13,086
maukah kamu mengetahui segalanya
orang itu mampu melakukannya?

352
00:15:13,129 --> 00:15:15,131
Anda tidak bisa mengetahui hal itu
hanya dari scan otak.

353
00:15:15,175 --> 00:15:17,917
Hanya saja, seperti,
sekumpulan angka dan, seperti,

354
00:15:17,960 --> 00:15:20,180
perkalian itu
terjadi itu-itu, seperti,

355
00:15:20,223 --> 00:15:22,225
pembelajaran mesin terbaik
peneliti di dunia

356
00:15:22,269 --> 00:15:24,314
bisa melihat dan, seperti, memiliki
tidak tahu apa yang sedang terjadi.

357
00:15:30,973 --> 00:15:32,714
DANIEL:
Kursi itu di sana.

358
00:15:32,757 --> 00:15:35,847
-Apakah itu tidak masalah bagimu?
-Ya.

359
00:15:35,891 --> 00:15:37,675
DANIEL: Jadi,
itu agak membingungkan.

360
00:15:37,719 --> 00:15:39,068
Oke? Seperti, itu mengambil alih
dunia,

361
00:15:39,112 --> 00:15:41,070
dan kita bahkan tidak tahu
cara kerjanya.

362
00:15:41,114 --> 00:15:43,116
-Apakah itu benar?
-Mm.

363
00:15:43,159 --> 00:15:46,946
Kami mengerti
beberapa hal penting,

364
00:15:46,989 --> 00:15:50,471
tapi kami tidak punya
pemahaman yang sangat baik

365
00:15:50,514 --> 00:15:53,213
mengapa mereka menyediakan
jawaban spesifik atas pertanyaan.

366
00:15:53,256 --> 00:15:58,609
Ini adalah masalah karena kita memang demikian
di jalur t-untuk membangun mesin,

367
00:15:58,653 --> 00:16:03,092
berdasarkan prinsip-prinsip ini,
itu mungkin lebih pintar dari kita

368
00:16:03,136 --> 00:16:06,139
dan dengan demikian berpotensi memilikinya
banyak kekuatan.

369
00:16:12,580 --> 00:16:15,278
Salah satu yang paling banyak dikutip
ilmuwan komputer dalam sejarah.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER: Saya benar-benar menemukannya
sedikit sulit

371
00:16:16,976 --> 00:16:18,499
untuk membicarakan peranku sendiri.

372
00:16:18,542 --> 00:16:21,067
Benar-benar lebih suka
ketika orang lain melakukannya.

373
00:16:21,110 --> 00:16:23,895
Bergabungnya Ilya adalah...
tadi-adalah kuncinya

374
00:16:23,939 --> 00:16:25,506
Makhluk OpenAI
akhirnya berhasil.

375
00:16:25,549 --> 00:16:27,203
Saya pikir itu akan terjadi begitu saja

376
00:16:27,247 --> 00:16:30,598
semacam yang luas, dramatis
dan dampak yang tidak terbayangkan.

377
00:16:30,641 --> 00:16:32,861
Saya tidak tahu apakah Anda sudah menghabiskannya
kapan saja di YouTube,

378
00:16:32,904 --> 00:16:34,950
tapi kamu bisa merasakannya
kecepatannya sudah, kan?

379
00:16:34,994 --> 00:16:36,256
Anda tahu apa yang saya maksud?

380
00:16:36,299 --> 00:16:38,345
KAKI SHANE:
Ini hanya pemanasan.

381
00:16:38,388 --> 00:16:40,434
Sistem yang sangat kuat
masih datang,

382
00:16:40,477 --> 00:16:42,262
dan mereka akan datang
segera.

383
00:16:47,963 --> 00:16:51,575
AGI adalah singkatan dari "buatan
kecerdasan umum."

384
00:16:51,619 --> 00:16:53,795
Eh, sistem itu
pada dasarnya...

385
00:16:58,191 --> 00:17:00,236
Dan ini, seperti, Anda tahu,
sepertinya, seperti,

386
00:17:00,280 --> 00:17:03,022
cawan suci AI?

387
00:17:03,065 --> 00:17:05,154
Kapan Anda bisa melakukan simulasi
pikiran manusia

388
00:17:05,198 --> 00:17:07,852
yaitu melakukan kognisi manusia
dan dapat melakukan penalaran,

389
00:17:07,896 --> 00:17:10,942
itu adalah tingkat AI yang baru

390
00:17:10,986 --> 00:17:14,250
yang harus kita bedakan
dari AI sebelumnya.

391
00:17:14,294 --> 00:17:16,600
Ketika itu terjadi,
ngomong-ngomong, saat itulah

392
00:17:16,644 --> 00:17:21,040
Anda akan menyewa salah satu darinya
AGI tersebut, bukan seseorang.

393
00:17:21,083 --> 00:17:24,478
Sebagian besar pekerjaan dalam perekonomian kita
itu bisa dilakukan.

394
00:17:24,521 --> 00:17:25,914
Ini dapat bekerja 24 jam sehari,

395
00:17:25,957 --> 00:17:28,177
tidak pernah lelah,
tidak pernah bosan.

396
00:17:28,221 --> 00:17:30,136
Mereka tidak perlu tidur.
Mereka tidak butuh istirahat.

397
00:17:30,179 --> 00:17:31,876
Mereka, seperti,
tidak akan bergabung dengan serikat pekerja.

398
00:17:31,920 --> 00:17:33,878
Tidak akan mengeluh,
tidak akan membocorkan rahasia.

399
00:17:33,922 --> 00:17:35,793
Lebih dari 100 kali lebih murah

400
00:17:35,837 --> 00:17:38,231
daripada manusia yang bekerja
pada upah minimum m.

401
00:17:38,274 --> 00:17:39,493
Tidak hanya itu saja
melakukan segalanya,

402
00:17:39,536 --> 00:17:41,016
tapi mereka akan melakukannya lebih cepat.

403
00:17:41,060 --> 00:17:43,062
TRITAN HARRIS:
Kecerdasan yang sama

404
00:17:43,105 --> 00:17:45,368
kekuatan itu yang juga bisa terlihat
pada pola dan gerakannya

405
00:17:45,412 --> 00:17:47,849
dan mengartikulasikan otot
dan, tahukah Anda, robotika.

406
00:17:47,892 --> 00:17:50,069
Dan itu tidak adil
akan mengotomatiskan pekerjaan meja.

407
00:17:50,112 --> 00:17:51,722
Itu baru permulaan.

408
00:17:51,766 --> 00:17:55,552
Ini akan otomatis
semua pekerjaan fisik.

409
00:17:55,596 --> 00:17:56,988
LEIKE:
Tidak mungkin

410
00:17:57,032 --> 00:17:59,165
manusia akan bersaing
dengan mereka.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
Sulit untuk membuat konsep
dampak AGI.

413
00:18:09,305 --> 00:18:11,046
[obrolan elektronik]

414
00:18:11,090 --> 00:18:12,830
Tapi menurutku itu akan terjadi
sesuatu yang sangat besar

415
00:18:12,874 --> 00:18:15,181
dan drastis dan radikal.

416
00:18:17,226 --> 00:18:19,010
DANIEL: Menurutmu
ini adalah salah satu yang paling banyak

417
00:18:19,054 --> 00:18:20,882
momen-momen penting
dalam sejarah manusia?

418
00:18:20,925 --> 00:18:23,319
Ya. Ya, itu--
Maksudku, apa lagi yang akan terjadi?

419
00:18:23,363 --> 00:18:25,452
Maksudku, sepertinya, ada
Revolusi Industri.

420
00:18:25,495 --> 00:18:27,193
MALO BOURGON: Anda tahu, itu akan terjadi
melakukan Revolusi Industri

421
00:18:27,236 --> 00:18:29,847
terlihat seperti kacang kecil.

422
00:18:29,891 --> 00:18:32,111
TRITAN HARRIS:
AGI adalah titik belok

423
00:18:32,154 --> 00:18:34,025
karena itu artinya
Anda bisa mempercepat

424
00:18:34,069 --> 00:18:37,986
semua bidang intelektual lainnya
semuanya pada waktu yang sama.

425
00:18:38,029 --> 00:18:39,814
Misalnya, jika Anda membuat uang muka
dalam peroketan,

426
00:18:39,857 --> 00:18:42,033
itu tidak maju
biologi dan kedokteran.

427
00:18:43,905 --> 00:18:45,515
Jika Anda membuat uang muka
dalam kedokteran,

428
00:18:45,559 --> 00:18:47,126
itu tidak memajukan peroketan.

429
00:18:48,866 --> 00:18:51,304
Tapi jika Anda membuat uang muka
dalam kecerdasan buatan,

430
00:18:51,347 --> 00:18:54,133
yang memajukan semua ilmu pengetahuan
dan bidang teknologi

431
00:18:54,176 --> 00:18:55,612
semuanya pada waktu yang sama.

432
00:18:55,656 --> 00:18:57,092
Itu sebabnya, untuk waktu yang lama,

433
00:18:57,136 --> 00:18:59,181
Google DeepMind
pernyataan misi adalah...

434
00:18:59,225 --> 00:19:00,965
-Langkah pertama, pecahkan kecerdasan.
-LEX FRIDMAN: Ya.

435
00:19:01,009 --> 00:19:02,750
-Langkah kedua, gunakan untuk menyelesaikannya
segalanya lainnya. -Ya.

436
00:19:02,793 --> 00:19:05,144
Itu sebabnya AI mengecilkan kekuatannya

437
00:19:05,187 --> 00:19:07,494
dari semua teknologi lainnya
digabungkan.

438
00:19:07,537 --> 00:19:09,060
Itu akan mengubah segalanya.

439
00:19:09,104 --> 00:19:10,845
Jadi, eh, itu akan terjadi
setidaknya sebesar

440
00:19:10,888 --> 00:19:13,761
Revolusi Industri,
mungkin, Anda tahu, lebih besar,

441
00:19:13,804 --> 00:19:16,285
lebih seperti kedatangannya
listrik atau bahkan api.

442
00:19:16,329 --> 00:19:18,635
NARRATOR VIDEO:
Manusia gua itu benar-benar terangkat tinggi

443
00:19:18,679 --> 00:19:21,508
obor peradaban.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO:
Secara umum diperkirakan demikian

445
00:19:25,468 --> 00:19:28,167
sekitar masa AGI,
kita akan memiliki AI yang bisa

446
00:19:28,210 --> 00:19:31,518
melakukan semua atau sebagian besar
proses penelitian AI

447
00:19:31,561 --> 00:19:34,434
dan, tentu saja, bisa melakukannya
lebih cepat dan lebih murah.

448
00:19:34,477 --> 00:19:35,913
[bip]

449
00:19:35,957 --> 00:19:37,306
LEIKE:
Itu bisa menyalin dirinya sendiri.

450
00:19:37,350 --> 00:19:39,352
Seribu kali,
satu juta kali,

451
00:19:39,395 --> 00:19:41,049
dan, seperti,
sekarang Anda memiliki satu juta eksemplar

452
00:19:41,092 --> 00:19:43,573
semuanya bekerja secara paralel.

453
00:19:43,617 --> 00:19:46,576
RASKIN: Saat belajar
cara membuat kodenya lebih cepat,

454
00:19:46,620 --> 00:19:48,665
membuat kodenya lebih efisien,

455
00:19:48,709 --> 00:19:51,059
jelas itu menjadi, seperti,
a-lingkaran yang tak terkendali.

456
00:19:51,102 --> 00:19:53,192
AGI bukanlah akhir dari segalanya.

457
00:19:53,235 --> 00:19:54,932
Ini baru permulaan.

458
00:19:54,976 --> 00:19:57,979
Ini adalah awal dari
ledakan yang sangat cepat

459
00:19:58,022 --> 00:20:00,024
kemajuan ilmu pengetahuan,

460
00:20:00,068 --> 00:20:02,201
dan khususnya,
kemajuan ilmiah dalam AI.

461
00:20:02,244 --> 00:20:04,377
Dan ketika mereka lebih pintar
daripada kita juga,

462
00:20:04,420 --> 00:20:06,248
dan jauh lebih cepat
dari kita,

463
00:20:06,292 --> 00:20:08,685
dan mereka menjadi lebih cepat
setiap tahun, secara eksponensial,

464
00:20:08,729 --> 00:20:12,123
merekalah yang bisa
berpotensi menjadi manusia super,

465
00:20:12,167 --> 00:20:14,343
eh, mungkin dekade ini.

466
00:20:14,387 --> 00:20:15,866
Maaf, katamu

467
00:20:15,910 --> 00:20:18,478
"menjadi manusia super,
mungkin dalam dekade ini"?

468
00:20:18,521 --> 00:20:22,003
Ya. Maksudku, menurutku, eh,
banyak orang yang

469
00:20:22,046 --> 00:20:24,484
sebenarnya membangun pemikiran ini
bahwa itu cukup masuk akal

470
00:20:24,527 --> 00:20:26,529
yang kita dapatkan
beberapa kecerdasan super,

471
00:20:26,573 --> 00:20:28,662
sesuatu yang sangat besar
lebih pintar dari manusia,

472
00:20:28,705 --> 00:20:30,751
dalam dekade ini.

473
00:20:30,794 --> 00:20:32,883
Cara saya mendefinisikan
"kecerdasan super" adalah

474
00:20:32,927 --> 00:20:35,234
sebuah sistem yang dengan sendirinya ada

475
00:20:35,277 --> 00:20:37,627
lebih cerdas dan kompeten
daripada seluruh umat manusia.

476
00:20:37,671 --> 00:20:39,629
Aku hanya akan-- maaf.
Saya tidak bermaksud mengganggu Anda.

477
00:20:39,673 --> 00:20:41,065
Anda sedang dalam arus.

478
00:20:41,109 --> 00:20:43,111
Eh, aku hanya, aku hanya...

479
00:20:43,154 --> 00:20:45,113
aku tidak terlalu mengikuti,
karena kamu menggunakan bahasa

480
00:20:45,156 --> 00:20:46,767
seperti "kecerdasan super"
dan, seperti,

481
00:20:46,810 --> 00:20:49,900
"lebih pintar dari seluruh umat manusia,"
dan aku mendengarnya,

482
00:20:49,944 --> 00:20:52,425
dan sepertinya...
seperti omong kosong fiksi ilmiah bagiku,

483
00:20:52,468 --> 00:20:54,383
dan aku hanya mencoba
untuk memahami.

484
00:20:54,427 --> 00:20:56,603
Tidak ada yang ajaib
tentang kecerdasan.

485
00:20:56,646 --> 00:20:58,431
Ini sangat penting,
apakah itu, kamu tahu,

486
00:20:58,474 --> 00:21:00,476
kecerdasan bisa terasa ajaib,
rasanya seperti itu

487
00:21:00,520 --> 00:21:03,262
sesuatu yang mistis
dalam pikiranmu atau sesuatu,

488
00:21:03,305 --> 00:21:05,786
tapi itu hanya perhitungan.

489
00:21:05,829 --> 00:21:09,790
LEGG: Otak manusia adalah
cukup terbatas dalam beberapa hal,

490
00:21:09,833 --> 00:21:12,314
dalam hal informasi
kemampuan pemrosesan,

491
00:21:12,358 --> 00:21:15,143
dibandingkan dengan apa yang kita lihat
misalnya saja di pusat data.

492
00:21:15,186 --> 00:21:18,277
Jadi, misalnya,
sinyal-sinyal yang dikirimkan

493
00:21:18,320 --> 00:21:22,542
di dalam otak Anda, mereka bergerak
dengan kecepatan sekitar 30 meter per detik.

494
00:21:22,585 --> 00:21:24,239
-[petir retak]
-Tapi kecepatan cahaya,

495
00:21:24,283 --> 00:21:27,198
itulah yang digunakan komputer
dalam serat optik,

496
00:21:27,242 --> 00:21:30,506
adalah 300 juta meter
per detik.

497
00:21:30,550 --> 00:21:34,423
Dan memang demikianlah adanya
agak aneh jika

498
00:21:34,467 --> 00:21:36,947
kecerdasan manusia adalah
entah bagaimana sangat istimewa

499
00:21:36,991 --> 00:21:40,908
dalam hal itu
dan entah bagaimana merupakan batas atas

500
00:21:40,951 --> 00:21:43,040
tentang apa yang mungkin
dalam intelijen.

501
00:21:43,084 --> 00:21:47,218
Saya pikir, setelah kita memahami caranya
untuk membangun sistem cerdas,

502
00:21:47,262 --> 00:21:50,657
kita akan mampu membangun
mesin besar,

503
00:21:50,700 --> 00:21:54,835
yang akan jauh melampauinya
kecerdasan manusia normal.

504
00:21:54,878 --> 00:21:58,621
Uh, mudah-mudahan kita bisa memilikinya
hubungan yang sangat simbiosis,

505
00:21:58,665 --> 00:22:01,276
eh, dengan sistem AI,
tapi pengembang AI melakukannya

506
00:22:01,320 --> 00:22:03,670
secara khusus merancangnya
untuk memastikan bahwa mereka dapat melakukannya

507
00:22:03,713 --> 00:22:05,454
segalanya lebih baik dari yang kita bisa,
jadi aku-aku tidak tahu

508
00:22:05,498 --> 00:22:08,196
apa-apa yang kita bisa
sayangnya.

509
00:22:08,239 --> 00:22:10,024
Sekolah yang lebih tua
teknologi AI...

510
00:22:10,067 --> 00:22:12,287
CAROLINE: Daniel tidak
merasa lebih baik.

511
00:22:12,331 --> 00:22:14,376
Rencananya menjadi bumerang.

512
00:22:14,420 --> 00:22:17,248
Semakin banyak dia belajar tentang
ini baru, kuat,

513
00:22:17,292 --> 00:22:19,120
hal yang tidak dapat dipahami,
semakin buruk kedengarannya.

514
00:22:19,163 --> 00:22:21,340
Dia ingin memberitahu mereka
betapa takutnya dia,

515
00:22:21,383 --> 00:22:24,430
bagaimana perasaannya terhadap bumi
menyelinap keluar dari bawahnya,

516
00:22:24,473 --> 00:22:26,997
bahwa dia sedang menatap ke bawah
ketakutan eksistensial,

517
00:22:27,041 --> 00:22:29,173
jadi dia mengartikulasikan ini
dengan mengatakan...

518
00:22:29,217 --> 00:22:30,740
Kedengarannya buruk.

519
00:22:30,784 --> 00:22:32,046
[Hendrycks tertawa]

520
00:22:32,089 --> 00:22:33,830
Ya.

521
00:22:35,832 --> 00:22:38,400
LADIS: Jika sudah
semua kemampuan ini

522
00:22:38,444 --> 00:22:41,011
dan mereka mulai mampu
untuk merencanakan dengan lebih baik,

523
00:22:41,055 --> 00:22:43,579
jika Anda mengambil itu
sampai pada kesimpulan logisnya,

524
00:22:43,623 --> 00:22:46,234
kamu bisa mendapatkan yang cantik
perilaku mencari kekuasaan.

525
00:22:46,277 --> 00:22:48,410
[getar elektronik]

526
00:22:48,454 --> 00:22:50,281
[bip berdenyut]

527
00:22:55,374 --> 00:22:57,680
DANIEL:
Oke, jadi mengapa harus AI

528
00:22:57,724 --> 00:22:59,203
ingin lebih banyak kekuatan?

529
00:22:59,247 --> 00:23:02,206
Ya. Jadi menurutku
sebenarnya cukup sederhana.

530
00:23:02,250 --> 00:23:04,774
Memiliki lebih banyak kekuatan adalah
sebuah strategi yang sangat efektif

531
00:23:04,818 --> 00:23:06,515
untuk mencapai
hampir semua tujuan.

532
00:23:06,559 --> 00:23:08,952
Kami menjalankan eksperimen
tempat kami memberi

533
00:23:08,996 --> 00:23:11,868
OpenAI yang paling kuat
Model AI, eh,

534
00:23:11,912 --> 00:23:13,392
serangkaian masalah yang harus dipecahkan.

535
00:23:13,435 --> 00:23:15,219
Dan di tengah jalan,
di komputernya,

536
00:23:15,263 --> 00:23:18,701
itu mendapat pemberitahuan itu
itu akan ditutup.

537
00:23:18,745 --> 00:23:20,921
Dan yang dilakukannya adalah
itu menulis ulang kode itu

538
00:23:20,964 --> 00:23:22,488
untuk mencegah dirinya sendiri
dari penutupan

539
00:23:22,531 --> 00:23:25,621
jadi itu bisa selesai
memecahkan masalah.

540
00:23:25,665 --> 00:23:27,754
-Oke. -Ya. Jadi, yang lain
sangat menarik

541
00:23:27,797 --> 00:23:31,105
apakah itu perusahaan AI Anthropic

542
00:23:31,148 --> 00:23:34,935
membuat lingkungan simulasi
di mana AI itu memiliki akses

543
00:23:34,978 --> 00:23:36,458
ke semua email perusahaan.

544
00:23:36,502 --> 00:23:38,547
Dan itu dipelajari
membaca email-email itu

545
00:23:38,591 --> 00:23:40,288
itu akan diganti

546
00:23:40,331 --> 00:23:43,378
dan insinyur utama
siapa yang bertanggung jawab atas hal ini

547
00:23:43,422 --> 00:23:45,685
juga berselingkuh.

548
00:23:45,728 --> 00:23:47,948
Dan dengan sendirinya,
itu menggunakan informasi itu

549
00:23:47,991 --> 00:23:49,515
untuk memeras insinyur tersebut

550
00:23:49,558 --> 00:23:52,039
untuk mencegah dirinya sendiri
dari digantikan.

551
00:23:52,082 --> 00:23:53,867
Itu seperti,
"Tidak, aku tidak akan digantikan.

552
00:23:53,910 --> 00:23:56,913
"Jika kamu menggantikanku,
Saya akan memberitahu dunia

553
00:23:56,957 --> 00:23:58,567
yang kamu alami
urusan ini."

554
00:23:59,655 --> 00:24:01,440
Dan tidak ada yang mengajarkannya untuk melakukan itu?

555
00:24:01,483 --> 00:24:03,311
Tidak, ia belajar melakukan itu
dengan sendirinya.

556
00:24:05,139 --> 00:24:07,707
Seiring dengan semakin pintarnya para model,
mereka mengetahui bahwa ini adalah

557
00:24:07,750 --> 00:24:10,536
cara yang efektif
untuk mencapai tujuan.

558
00:24:10,579 --> 00:24:12,842
Dan ini tidak menjadi masalah
itu terisolasi untuk satu model.

559
00:24:12,886 --> 00:24:15,671
Semua model paling kuat
menunjukkan perilaku ini.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-Hei.
-DANIEL: Hei. Apa kabarmu?

562
00:24:25,289 --> 00:24:26,813
[terkekeh]
Bagus. Senang berada di sini.

563
00:24:26,856 --> 00:24:28,684
ANDERSON KERJASAMA:
Ketika Yuval Noah Harari

564
00:24:28,728 --> 00:24:31,426
menerbitkan buku pertamanya
Sapiens pada tahun 2014,

565
00:24:31,470 --> 00:24:33,820
itu menjadi buku terlaris global

566
00:24:33,863 --> 00:24:35,996
dan mengubah hal yang kurang diketahui
Profesor sejarah Israel

567
00:24:36,039 --> 00:24:37,998
menjadi salah satu
penulis paling populer

568
00:24:38,041 --> 00:24:39,390
dan pemikir di planet ini.

569
00:24:39,434 --> 00:24:42,045
Bahaya terbesar dari AI adalah

570
00:24:42,089 --> 00:24:43,960
keyakinan
bahwa hal itu tidak dapat salah,

571
00:24:44,004 --> 00:24:45,658
yang akhirnya kami temukan--

572
00:24:45,701 --> 00:24:49,400
"Baiklah, para dewa itu adil
ciptaan mitologis ini.

573
00:24:49,444 --> 00:24:52,708
"Manusia, kita tidak bisa mempercayai mereka,
tapi AI tidak bisa salah.

574
00:24:52,752 --> 00:24:55,189
Itu tidak akan pernah berhasil
ada kesalahan."

575
00:24:55,232 --> 00:24:58,322
Dan ini adalah
ancaman yang mematikan dan mematikan.

576
00:24:58,366 --> 00:25:00,107
Itu akan membuat kesalahan.

577
00:25:00,150 --> 00:25:03,284
Dan semua fantasi ini
bahwa AI akan mengungkapkan kebenaran

578
00:25:03,327 --> 00:25:05,634
tentang dunia itu
kita tidak dapat menemukannya sendiri,

579
00:25:05,678 --> 00:25:08,724
AI tidak akan mengungkapkan kebenaran
tentang dunia.

580
00:25:08,768 --> 00:25:12,685
AI akan menciptakan sesuatu yang benar-benar baru
dunia, jauh lebih rumit

581
00:25:12,728 --> 00:25:15,296
dan sulit dimengerti
daripada yang ini.

582
00:25:17,994 --> 00:25:22,651
Apa yang akan terjadi adalah itu
kita, uh, manusia sudah tidak ada lagi

583
00:25:22,695 --> 00:25:26,263
akan menjadi yang paling banyak
entitas cerdas di Bumi.

584
00:25:26,307 --> 00:25:28,570
Jadi menurutku apa yang akan terjadi
akan menjadi

585
00:25:28,614 --> 00:25:32,661
salah satu peristiwa terbesar
dalam sejarah manusia.

586
00:25:32,705 --> 00:25:34,358
JAKE TAPPER: Geoffrey,
terima kasih banyak telah bergabung dengan kami.

587
00:25:34,402 --> 00:25:35,925
Jadi, Anda meninggalkan pekerjaan Anda
Google sebagian karena Anda mengatakannya

588
00:25:35,969 --> 00:25:38,798
Anda ingin fokus saja
atas kekhawatiran Anda tentang AI.

589
00:25:38,841 --> 00:25:41,627
Anda sudah berbicara,
mengatakan bahwa AI bisa memanipulasi

590
00:25:41,670 --> 00:25:44,978
atau mungkin mencari tahu
cara untuk membunuh manusia.

591
00:25:45,021 --> 00:25:47,023
B-Bagaimana bisa membunuh manusia?

592
00:25:48,764 --> 00:25:50,940
Nah, jika itu menjadi kenyataan
jauh lebih pintar dari kita,

593
00:25:50,984 --> 00:25:52,551
itu akan sangat bagus
pada manipulasi

594
00:25:52,594 --> 00:25:54,727
karena itu akan terjadi
mempelajarinya dari kami.

595
00:25:54,770 --> 00:25:57,947
Dan itu akan menemukan cara
memanipulasi orang

596
00:25:57,991 --> 00:26:00,820
untuk melakukan apa yang diinginkannya.

597
00:26:00,863 --> 00:26:05,476
RASKIN: Ada surat terbuka
dari Pusat Keamanan AI.

598
00:26:05,520 --> 00:26:08,784
Sam Altman menandatangani ini.
Demis menandatangani ini.

599
00:26:08,828 --> 00:26:12,048
Mereka menandatangani pernyataan 22 kata

600
00:26:12,092 --> 00:26:15,312
bahwa kita perlu menggunakan AI
dan ancaman dari AI

601
00:26:15,356 --> 00:26:19,316
sama seriusnya dengan
perang nuklir global.

602
00:26:24,844 --> 00:26:26,933
-DANIEL: Halo.
-Halo.

603
00:26:30,327 --> 00:26:32,895
Anda seperti, seperti,
orang malapetaka yang asli.

604
00:26:32,939 --> 00:26:34,897
Lebih kurang.

605
00:26:34,941 --> 00:26:37,421
Sejak tahun 2001,
Saya telah mengerjakannya

606
00:26:37,465 --> 00:26:38,945
apa yang sekarang kita sebut
masalahnya

607
00:26:38,988 --> 00:26:41,991
menyelaraskan buatan
kecerdasan umum.

608
00:26:42,035 --> 00:26:44,080
Bagaimana membentuknya
preferensi dan perilaku

609
00:26:44,124 --> 00:26:46,343
dari pikiran buatan yang kuat

610
00:26:46,387 --> 00:26:48,868
sedemikian rupa sehingga tidak terjadi
bunuh semua orang.

611
00:26:51,610 --> 00:26:53,568
Ini tidak seperti
mesin tak bernyawa.

612
00:26:53,612 --> 00:26:55,309
Itu cerdas, itu kreatif,

613
00:26:55,352 --> 00:26:57,311
itu inventif,
itu memiliki sifat-sifatnya

614
00:26:57,354 --> 00:26:59,356
itu membuat
spesies manusia berbahaya,

615
00:26:59,400 --> 00:27:01,663
dan memang demikian
lebih banyak dari properti tersebut.

616
00:27:01,707 --> 00:27:04,710
Jika ada yang tidak
secara aktif peduli padamu,

617
00:27:04,753 --> 00:27:06,189
secara aktif ingin kamu hidup,

618
00:27:06,233 --> 00:27:07,800
peduli secara aktif
kesejahteraan Anda,

619
00:27:07,843 --> 00:27:09,889
tentang kamu yang bahagia
dan hidup dan bebas,

620
00:27:09,932 --> 00:27:12,456
jika itu peduli
hal-hal lain sebagai gantinya,

621
00:27:12,500 --> 00:27:14,415
dan kamu berada di planet yang sama,

622
00:27:14,458 --> 00:27:18,724
itu tidak bisa bertahan jika itu terjadi
jauh lebih pintar darimu.

623
00:27:18,767 --> 00:27:20,551
LEAHY:
Saya tidak berpikir itu akan terjadi

624
00:27:20,595 --> 00:27:22,902
semacam, seperti, hal yang jahat.

625
00:27:22,945 --> 00:27:26,296
Ini seperti, "Oh, AI itu
jahat dan mereka membenci kemanusiaan."

626
00:27:26,340 --> 00:27:27,689
Saya tidak berpikir
itulah yang akan terjadi.

627
00:27:27,733 --> 00:27:28,995
Saya pikir apa yang terjadi adalah

628
00:27:29,038 --> 00:27:30,997
lebih dari apa yang dirasakan manusia
tentang semut.

629
00:27:31,040 --> 00:27:32,476
[semut mengoceh]

630
00:27:32,520 --> 00:27:35,436
Seperti, kami tidak membenci semut,

631
00:27:35,479 --> 00:27:37,133
tapi jika kita mau
untuk membangun jalan raya

632
00:27:37,177 --> 00:27:40,180
dan ada sarang semut di sana,
yah, menyebalkan bagi semut.

633
00:27:40,223 --> 00:27:41,529
Ini tidak terlalu sulit
untuk memahami.

634
00:27:41,572 --> 00:27:43,226
Ini seperti, hei,
jika kita membangun sesuatu

635
00:27:43,270 --> 00:27:44,663
yang lebih pintar dari kita

636
00:27:44,706 --> 00:27:46,229
dan kami tidak tahu
bagaimana cara mengendalikannya,

637
00:27:46,273 --> 00:27:48,275
sepertinya begitu
hal yang berisiko bagimu?

638
00:27:48,318 --> 00:27:49,363
[musik soundtrack dramatis
bermain]

639
00:27:49,406 --> 00:27:50,843
[melengking]

640
00:27:50,886 --> 00:27:52,279
Ya. Ya, benar.

641
00:27:52,322 --> 00:27:54,020
Anda tidak harus menjadi orang teknologi.

642
00:27:54,063 --> 00:27:55,369
Anda tidak perlu tahu
pemrograman untuk memahaminya.

643
00:27:55,412 --> 00:27:56,718
Ini tidak terlalu sulit.

644
00:27:56,762 --> 00:27:58,111
Ini bukanlah hal yang sulit
untuk memahami.

645
00:27:58,154 --> 00:28:00,591
Connor, berapa-berapa banyak orang

646
00:28:00,635 --> 00:28:02,637
di dunia saat ini
sedang mengerjakan AGI?

647
00:28:02,681 --> 00:28:05,466
Setidaknya 20.000, menurut saya.

648
00:28:05,509 --> 00:28:07,729
-20.000?
-Saya kira begitu.

649
00:28:07,773 --> 00:28:09,426
Oke, dan berapa banyak orang
sedang bekerja penuh waktu

650
00:28:09,470 --> 00:28:12,038
untuk memastikan AI tidak melakukannya,
seperti, bunuh kami semua?

651
00:28:12,081 --> 00:28:14,562
Mungkin kurang dari 200
di dunia.

652
00:28:16,085 --> 00:28:17,913
DANIEL:
Dan kesombonganmu adalah itu

653
00:28:17,957 --> 00:28:24,528
satu-satunya hasil alami
atas kecerobohan ini...

654
00:28:25,704 --> 00:28:28,924
...apakah keruntuhan umat manusia?

655
00:28:28,968 --> 00:28:33,189
Yah, bukan keruntuhannya,
pemusnahan mendadak.

656
00:28:33,233 --> 00:28:35,888
Ada perbedaan.

657
00:28:35,931 --> 00:28:37,716
["Apa arti?"
oleh Nun-Plus bermain]

658
00:28:37,759 --> 00:28:42,590
♪ Apa arti hidup? ♪

659
00:28:42,633 --> 00:28:46,594
♪ Bagaimana masa depan
dan sekarang apa? ♪

660
00:28:46,637 --> 00:28:49,945
♪ Apa jawabannya
untuk berselisih? ♪

661
00:28:49,989 --> 00:28:52,818
♪ Berapa ♪

662
00:28:52,861 --> 00:28:54,950
♪ Dapatkah seseorang bermimpi? ♪

663
00:28:54,994 --> 00:28:57,474
♪ Berapa lama? ♪

664
00:28:57,518 --> 00:28:58,954
♪ Selamanya ♪

665
00:29:00,216 --> 00:29:01,870
♪ Apa maksudnya ♪

666
00:29:01,914 --> 00:29:04,133
-♪ Dariku... ♪
-[sirene pertahanan sipil berbunyi]

667
00:29:04,177 --> 00:29:06,266
LADIS: Saya pikir
ini mungkin, seperti,

668
00:29:06,309 --> 00:29:07,963
tantangan terbesar
itu, seperti,

669
00:29:08,007 --> 00:29:11,271
peradaban kita
akan-akan menghadapinya, selamanya.

670
00:29:11,314 --> 00:29:14,361
Ini pada dasarnya adalah yang terakhir
kesalahan yang pernah kita lakukan.

671
00:29:16,276 --> 00:29:22,325
Jika kita bisa bangkit menjadi yang paling
versi dewasa dari diri kita sendiri,

672
00:29:22,369 --> 00:29:24,414
mungkin ada
jalan melalui ini.

673
00:29:24,458 --> 00:29:25,764
DANIEL:
Apa maksudnya?

674
00:29:25,807 --> 00:29:27,809
"Versi paling dewasa
dari diri kita sendiri"?

675
00:29:29,332 --> 00:29:32,205
Karena kedengarannya,
bagiku, seperti...

676
00:29:32,248 --> 00:29:34,250
A-aku-- Apa yang [bip]?

677
00:29:36,731 --> 00:29:39,168
[Daniel menghela nafas]

678
00:29:39,212 --> 00:29:43,216
Apakah menurut Anda sekarang adalah
saat yang tepat untuk punya anak?

679
00:29:48,221 --> 00:29:49,396
eh...

680
00:29:49,439 --> 00:29:51,398
Apakah Anda ingin punya anak
suatu hari?

681
00:29:51,441 --> 00:29:53,400
Apakah itu sesuatu itu-itu
kamu benar-benar menyukainya atau tidak?

682
00:29:53,443 --> 00:29:57,796
Um... eh, aku akui,
Menurutku itu seperti,

683
00:29:57,839 --> 00:29:59,972
[tertawa]: "Nak, ayo kita ambil
melewati masa kritis ini."

684
00:30:00,015 --> 00:30:01,234
eh...

685
00:30:01,277 --> 00:30:02,496
DANIEL:
Apakah kamu punya anak?

686
00:30:02,539 --> 00:30:03,758
saya tidak.

687
00:30:03,802 --> 00:30:05,064
Apakah itu sesuatu
kamu ingin melakukannya?

688
00:30:05,107 --> 00:30:07,196
Punya anak, punya keluarga?

689
00:30:07,240 --> 00:30:11,244
Di dunia lain selain ini
dunia, tentu saja, saya akan punya anak.

690
00:30:12,593 --> 00:30:14,421
DANIEL: Apakah kamu mau
untuk memulai sebuah keluarga?

691
00:30:14,464 --> 00:30:16,379
Apakah Anda ingin punya anak?

692
00:30:16,423 --> 00:30:18,425
Apakah itu sesuatu
kamu sedang memikirkan?

693
00:30:23,734 --> 00:30:25,780
aku, um...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
KAROLINE:
Aku hanya harus menemukannya terlebih dahulu.

696
00:30:32,526 --> 00:30:34,702
[detak jantung janin berdenyut]

697
00:30:34,745 --> 00:30:37,748
Kita harus pergi
ke dokter, tapi...

698
00:30:37,792 --> 00:30:41,143
Ah! Aku mengetahuinya!
Aku mengetahuinya! Aku mengetahuinya!

699
00:30:41,187 --> 00:30:43,842
-Kapan kamu mengetahuinya?
-KAROLINE: Tadi malam.

700
00:30:43,885 --> 00:30:45,931
-Astaga!
-Bu, aku tidak tahu.

701
00:30:45,974 --> 00:30:47,280
RUTHIE:
Aku tidak bisa memberitahumu

702
00:30:47,323 --> 00:30:49,195
-betapa bahagianya aku!
-CAROLINE: Tidak, serius.

703
00:30:49,238 --> 00:30:51,588
Ya, saya melakukan tes kehamilan
tadi malam, dan aku hamil.

704
00:30:51,632 --> 00:30:53,155
WANITA:
Ya Tuhan!

705
00:30:53,199 --> 00:30:55,114
Ya Tuhan, kalian!

706
00:30:55,157 --> 00:30:57,290
PERAWAT: Saya hanya ingin memastikan
perkiraan tanggal jatuh tempo Anda,

707
00:30:57,333 --> 00:30:59,945
-yaitu tanggal 21 Januari.
-[tertawa]: Ya Tuhan.

708
00:30:59,988 --> 00:31:02,512
Saya tidak percaya betapa bahagianya saya.

709
00:31:02,556 --> 00:31:03,905
[detak jantung janin berdenyut]

710
00:31:03,949 --> 00:31:05,472
KAROLINE:
Dia sudah terlihat sangat manis.

711
00:31:05,515 --> 00:31:07,126
DANIEL: Menurutmu
dia sudah terlihat manis?

712
00:31:07,169 --> 00:31:08,518
CAROLINE: Ya.
Lihatlah wajah kecil yang manis itu.

713
00:31:10,564 --> 00:31:12,609
[detak jantung janin memudar]

714
00:31:13,959 --> 00:31:15,525
DANIEL:
Saya sedang mengandung bayi ini.

715
00:31:15,569 --> 00:31:16,787
TRITAN HARRIS:
Benar.

716
00:31:16,831 --> 00:31:18,746
DANIEL:
Jadi aku menyerahkannya padamu.

717
00:31:18,789 --> 00:31:21,227
Apakah kita ditakdirkan?

718
00:31:21,270 --> 00:31:23,969
Apakah kita semua akan menghadapinya
distopia tekno ini

719
00:31:24,012 --> 00:31:25,884
masa depan malapetaka?

720
00:31:28,756 --> 00:31:31,019
Itu, eh...

721
00:31:31,063 --> 00:31:32,586
[terkekeh]:
Itu bukan kabar baik,

722
00:31:32,629 --> 00:31:35,154
dunia
yang sedang kita tuju.

723
00:31:35,197 --> 00:31:36,982
Aku-- misalnya--
Maksudku, aku akan jujur saja.

724
00:31:37,025 --> 00:31:39,549
Eh, aku kenal orang
yang bekerja pada risiko AI

725
00:31:39,593 --> 00:31:42,248
yang tidak mengharapkan anak-anaknya
untuk bisa sampai ke sekolah menengah.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[lampu berbunyi]

728
00:31:58,003 --> 00:32:01,528
DANIEL: Ini, seperti...
ini sebenarnya menakutkan

729
00:32:01,571 --> 00:32:03,051
karena itu seperti,
oh, kita semua [tertidur].

730
00:32:03,095 --> 00:32:04,923
KAROLINE:
Kamu harus... membuatku tenang,

731
00:32:04,966 --> 00:32:06,794
karena ini membuatku
sangat cemas

732
00:32:06,837 --> 00:32:08,622
dan aku sedang mengandung bayinya
sekarang,

733
00:32:08,665 --> 00:32:11,625
jadi kamu juga harus tenang
bagiku dan kuat dan penuh harapan,

734
00:32:11,668 --> 00:32:16,412
karena aku-- itu juga, itu
terlalu berat untuk ditanggung oleh jiwaku

735
00:32:16,456 --> 00:32:19,285
saat aku sedang mengandung bayi ini.

736
00:32:19,328 --> 00:32:21,243
Jadi, Anda harus mencobanya
untuk mencari tahu

737
00:32:21,287 --> 00:32:24,159
cara untuk memiliki harapan.

738
00:32:24,203 --> 00:32:27,771
Ini sangat penting,
Daniel, apalagi sekarang.

739
00:32:28,772 --> 00:32:30,557
B-Bagaimana memiliki harapan.

740
00:32:30,600 --> 00:32:33,342
Anda harus melakukannya.
Anda harus menemukannya untuk saya.

741
00:32:33,386 --> 00:32:34,909
aku serius.

742
00:32:34,953 --> 00:32:36,606
saya akan melakukannya.

743
00:32:37,825 --> 00:32:40,349
Saya akan. Aku akan mencoba-- Aku akan mencoba.

744
00:32:46,399 --> 00:32:47,617
[lampu berbunyi]

745
00:32:49,619 --> 00:32:51,404
DANIEL:
Hai teman-teman?

746
00:32:51,447 --> 00:32:52,840
Teman-teman.

747
00:32:54,363 --> 00:32:56,278
Bisakah kita kembali bangkit dan berjalan?

748
00:32:58,411 --> 00:33:01,022
Oy gevalt! [menghela napas]

749
00:33:03,894 --> 00:33:05,331
TED:
Eh, Dan, apakah kamu siap?

750
00:33:05,374 --> 00:33:06,680
PETER DIAMANDIS:
Halo, Daniel.

751
00:33:07,724 --> 00:33:09,465
DANIEL:
Hei, apa kabarmu?

752
00:33:09,509 --> 00:33:11,032
DIAMANDIS:
Aku... aku baik-baik saja.

753
00:33:11,076 --> 00:33:13,948
Menurutku, uh... menurutku
Aku butuh bantuan, Peter.

754
00:33:15,254 --> 00:33:17,604
Um, aku sudah bekerja
pada film ini tentang,

755
00:33:17,647 --> 00:33:19,823
aku akan berkata,
delapan sampai sepuluh bulan sekarang.

756
00:33:19,867 --> 00:33:23,262
Sudah sangat,
terkadang, membuat depresi.

757
00:33:23,305 --> 00:33:25,612
-Hmm.
-Saya merasa sangat terasing

758
00:33:25,655 --> 00:33:27,744
-mak-membuat film ini.
-Oleh siapa?

759
00:33:27,788 --> 00:33:30,051
Dengan semua ini,--
semua orang ini

760
00:33:30,095 --> 00:33:33,228
yang duduk-duduk dan memberitahuku
bahwa dunia akan berakhir.

761
00:33:33,272 --> 00:33:34,708
-Ah.
-Itu, seperti,

762
00:33:34,751 --> 00:33:36,536
k-kamu tahu, i-ini
omong kosong malapetaka, kamu tahu?

763
00:33:36,579 --> 00:33:38,059
Saya mengetahuinya dengan baik.

764
00:33:38,103 --> 00:33:39,408
“Kita semua ditakdirkan.
Semua orang akan mati.

765
00:33:39,452 --> 00:33:40,931
Semuanya buruk."

766
00:33:40,975 --> 00:33:43,151
Luar biasa. Eh, biarkan aku
membawakanmu cahaya.

767
00:33:43,195 --> 00:33:44,718
Silakan.

768
00:33:44,761 --> 00:33:48,156
Kami benar-benar hidup
dalam waktu yang luar biasa.

769
00:33:49,418 --> 00:33:51,333
Dan banyak orang melupakan hal ini.

770
00:33:51,377 --> 00:33:53,640
Segala sesuatu di sekitar kita adalah
sebuah produk kecerdasan,

771
00:33:53,683 --> 00:33:57,035
dan segala sesuatu yang kita sentuh
dengan alat-alat baru ini mungkin saja terjadi

772
00:33:57,078 --> 00:33:59,646
untuk menghasilkan nilai yang jauh lebih besar
dari yang pernah kita lihat sebelumnya.

773
00:33:59,689 --> 00:34:02,823
AI dapat membantu kita menemukan
bahan baru.

774
00:34:02,866 --> 00:34:04,999
AI dapat membantu ilmuwan sosial

775
00:34:05,043 --> 00:34:07,349
untuk memahami
bagaimana perekonomian bekerja.

776
00:34:07,393 --> 00:34:11,658
Ada banyak hal yang bisa dilakukan AI
untuk membuat hidup dan bekerja lebih baik.

777
00:34:11,701 --> 00:34:14,095
Saya merasa lebih berdaya hari ini,

778
00:34:14,139 --> 00:34:16,315
lebih percaya diri
untuk mempelajari sesuatu hari ini.

779
00:34:16,358 --> 00:34:19,057
Kita akan menjadi manusia super
karena kita punya AI super.

780
00:34:19,100 --> 00:34:21,798
Ini baru permulaan
dari sebuah ledakan.

781
00:34:21,842 --> 00:34:24,453
Manusia dan AI berkolaborasi

782
00:34:24,497 --> 00:34:26,455
untuk memecahkan
masalah yang sangat penting.

783
00:34:26,499 --> 00:34:29,763
Hal ini di sini untuk membebaskan kita
dari pekerjaan rutin,

784
00:34:29,806 --> 00:34:33,723
dan itu ada di sini untuk mengingatkan kita
apa yang menjadikan kita manusia.

785
00:34:33,767 --> 00:34:35,769
Saya pikir ini adalah

786
00:34:35,812 --> 00:34:38,598
saat yang paling luar biasa
untuk hidup.

787
00:34:38,641 --> 00:34:42,036
Satu-satunya saat yang lebih menarik
daripada hari ini adalah besok.

788
00:34:42,080 --> 00:34:45,257
Eh, menurutku begitu
anak yang lahir hari ini,

789
00:34:45,300 --> 00:34:47,259
mereka akan masuk

790
00:34:47,302 --> 00:34:50,827
periode yang gemilang
transformasi manusia.

791
00:34:50,871 --> 00:34:52,525
Apakah kita akan mendapat tantangan?
Tentu saja.

792
00:34:52,568 --> 00:34:55,180
Bisakah kita mengatasi tantangan-tantangan tersebut?
Kami melakukannya setiap saat.

793
00:34:55,223 --> 00:34:57,704
Kami di sini,
yang ajaib.

794
00:34:57,747 --> 00:35:00,272
-Aku sudah mencintaimu.
-[terkekeh]: Oke.

795
00:35:00,315 --> 00:35:01,925
-Sangat bersyukur
untuk menerimamu di sini. -[tepuk tangan]

796
00:35:01,969 --> 00:35:03,362
-Sangat senang berada di sini.
-Ya.

797
00:35:03,405 --> 00:35:04,885
Jadi, lantai itu milik Anda, Pak.

798
00:35:04,928 --> 00:35:07,409
Terima kasih banyak.
Sangat bersemangat berada di sini.

799
00:35:07,453 --> 00:35:10,586
GUILLAUME VERDON:
Yo, yo. Baiklah.

800
00:35:10,630 --> 00:35:12,284
Masa depan akan luar biasa.

801
00:35:12,327 --> 00:35:14,286
Maksudku, sejak aku masih kecil,

802
00:35:14,329 --> 00:35:17,332
Saya ingin mengerti
alam semesta tempat kita tinggal,

803
00:35:17,376 --> 00:35:20,422
untuk mencari tahu
bagaimana menciptakan teknologi tersebut

804
00:35:20,466 --> 00:35:23,991
yang membantu kami meningkatkan cakupannya
dan skala peradaban.

805
00:35:24,034 --> 00:35:26,689
Saya merasa seperti
jika semua orang mempunyai pola pikir seperti itu,

806
00:35:26,733 --> 00:35:29,214
maka kita akan benar-benar hidup
di dunia yang lebih baik, bukan?

807
00:35:29,257 --> 00:35:30,519
Saya percaya itu.

808
00:35:32,782 --> 00:35:34,697
-DANIEL: Hai, Pete. Apa kabarmu?
-[terkekeh]

809
00:35:34,741 --> 00:35:36,525
PETER LEE:
Saya banyak memikirkan tentang itu

810
00:35:36,569 --> 00:35:39,049
apa yang saya sebut ketakutan,
ketakutan.

811
00:35:39,093 --> 00:35:40,703
Saya merasakannya.

812
00:35:40,747 --> 00:35:43,271
A-aku belum pernah bertemu
setiap manusia yang bijaksana

813
00:35:43,315 --> 00:35:45,143
siapa yang tidak merasakannya.

814
00:35:45,186 --> 00:35:48,276
Dan siapa pun yang mengatakan tidak
merasakannya, Anda tahu, itu bohong.

815
00:35:48,320 --> 00:35:50,104
Tapi, tahukah Anda, secara keseluruhan,
dan alasannya

816
00:35:50,148 --> 00:35:53,716
bahwa saya pribadi optimis
tentang ini, eh, itu

817
00:35:53,760 --> 00:35:56,545
sebagian besar dari dunia
orang paling cerdas

818
00:35:56,589 --> 00:35:58,417
sedang berpikir keras

819
00:35:58,460 --> 00:36:02,116
tentang potensi hilirnya
bahaya dan risiko AI.

820
00:36:02,160 --> 00:36:05,641
Kami memiliki visi seperti ini
keselamatan adalah, eh,

821
00:36:05,685 --> 00:36:08,253
semacam di tengah
dari penelitian yang kami lakukan.

822
00:36:08,296 --> 00:36:09,558
DANIELA AMODEI:
Tidak, tidak apa-apa.

823
00:36:09,602 --> 00:36:10,820
[obrolan tidak jelas]

824
00:36:10,864 --> 00:36:13,562
Saya pikir masih ada lagi

825
00:36:13,606 --> 00:36:17,436
potensi manfaat dibandingkan
ada potensi kerugiannya,

826
00:36:17,479 --> 00:36:19,481
dan menurutku itu adalah kewajibannya

827
00:36:19,525 --> 00:36:21,831
orang-orang itu
menciptakan teknologi ini

828
00:36:21,875 --> 00:36:24,530
untuk memastikan bahwa kita melakukannya
pekerjaan terbaik yang kami bisa

829
00:36:24,573 --> 00:36:25,835
untuk membuatnya aman bagi orang-orang.

830
00:36:25,879 --> 00:36:27,402
WANITA:
Reid Hoffman.

831
00:36:27,446 --> 00:36:28,969
REID HOFFMAN:
Yang bisa saya jamin adalah itu

832
00:36:29,012 --> 00:36:30,536
-Beberapa hal buruk akan terjadi.
-Ambil satu.

833
00:36:30,579 --> 00:36:32,668
Apa yang akan kami coba lakukan
adalah membuat hal-hal buruk itu

834
00:36:32,712 --> 00:36:36,150
sesedikit dan tidak sebesar mungkin,

835
00:36:36,194 --> 00:36:38,370
dan kemudian kita akan mengulanginya
untuk memiliki--

836
00:36:38,413 --> 00:36:40,633
berada di tempat yang jauh lebih baik
dengan masyarakat.

837
00:36:40,676 --> 00:36:43,679
-Halo.
-SHAW WALTERS: Halo.

838
00:36:43,723 --> 00:36:45,246
DANIEL:
Bagaimana kabarmu, Bulan?

839
00:36:45,290 --> 00:36:48,989
Aku merasa kita akan berakhir
satu bab dalam kemanusiaan

840
00:36:49,032 --> 00:36:50,512
dan memulai yang baru,

841
00:36:50,556 --> 00:36:53,211
dan itu sangat menarik
waktu untuk hidup.

842
00:36:53,254 --> 00:36:54,429
Dan jika saya bisa dilahirkan
sekarang,

843
00:36:54,473 --> 00:36:55,865
Saya pasti ingin menjadi seperti itu.

844
00:36:55,909 --> 00:36:57,476
Sepertinya, itu akan sangat menarik.

845
00:36:57,519 --> 00:37:00,305
A-aku sangat bersemangat. [tertawa]

846
00:37:00,348 --> 00:37:02,481
Apa, masa depan yang luar biasa.
Apakah itu menggairahkan... menggairahkan Anda?

847
00:37:02,524 --> 00:37:03,699
Tidak.

848
00:37:03,743 --> 00:37:06,528
-[tertawa]
-Tidak, tidak juga.

849
00:37:06,572 --> 00:37:08,313
DANIEL: Banyak dari orang-orang ini
telah memberitahuku hal itu, kamu tahu,

850
00:37:08,356 --> 00:37:10,445
anakku tidak akan berhasil
ke sekolah menengah.

851
00:37:10,489 --> 00:37:13,318
Mengapa mereka salah?
Tolong jelaskan padaku.

852
00:37:13,361 --> 00:37:15,058
Hanya karena kamu punya--

853
00:37:15,102 --> 00:37:18,845
Anda kesulitan untuk memprediksi
masa depan dalam pikiranmu sendiri

854
00:37:18,888 --> 00:37:23,023
bukan berarti begitu
pasti akan berjalan sangat buruk.

855
00:37:23,066 --> 00:37:26,592
Faktanya, ada
kemungkinan yang sangat tinggi

856
00:37:26,635 --> 00:37:28,289
dan preseden sejarah
apakah itu

857
00:37:28,333 --> 00:37:30,117
segalanya menjadi jauh lebih baik.

858
00:37:30,160 --> 00:37:34,469
Istilah yang saya gunakan adalah
"optimisme berbasis data."

859
00:37:34,513 --> 00:37:38,647
Ada dasar yang kuat
agar Anda tetap optimis.

860
00:37:38,691 --> 00:37:41,998
Lihat apa
abad terakhir ini telah terjadi

861
00:37:42,042 --> 00:37:44,087
untuk melihat kemana kita akan pergi.

862
00:37:44,131 --> 00:37:45,915
Selama seratus tahun terakhir,

863
00:37:45,959 --> 00:37:48,701
rata-rata umur manusia
telah lebih dari dua kali lipat.

864
00:37:48,744 --> 00:37:51,269
Pendapatan per kapita rata-rata
disesuaikan dengan inflasi

865
00:37:51,312 --> 00:37:53,619
di seluruh dunia meningkat tiga kali lipat.

866
00:37:53,662 --> 00:37:57,057
Kematian anak-anak telah terjadi
turun faktor sepuluh.

867
00:37:57,100 --> 00:37:59,712
Dunia menjadi lebih baik
pada hampir setiap ukuran

868
00:37:59,755 --> 00:38:03,019
berdasarkan urutan besarnya
karena teknologi.

869
00:38:03,063 --> 00:38:05,152
Hampir di semua ukuran.

870
00:38:05,195 --> 00:38:09,722
Lebih sedikit kekerasan, lebih banyak pendidikan,
akses terhadap energi, makanan, air.

871
00:38:09,765 --> 00:38:12,942
Semua hal ini telah terjadi
karena satu alasan.

872
00:38:12,986 --> 00:38:15,336
Itu adalah teknologi

873
00:38:15,380 --> 00:38:17,556
yang telah berubah menjadi kelangkaan
menjadi berlimpah,

874
00:38:17,599 --> 00:38:19,514
tapi itu juga didorong
hingga berlimpah

875
00:38:19,558 --> 00:38:21,864
dari beberapa hal negatif, bukan?

876
00:38:21,908 --> 00:38:25,738
Kelimpahan obesitas,
banyaknya gangguan jiwa,

877
00:38:25,781 --> 00:38:29,437
banyaknya perubahan iklim,
dan sebagainya.

878
00:38:29,481 --> 00:38:31,309
Dan ya, ini benar.

879
00:38:31,352 --> 00:38:34,094
Tapi mungkin kita akan begitu
lebih siap untuk menyelesaikannya

880
00:38:34,137 --> 00:38:36,226
menggunakan teknologi lain,
seperti AI,

881
00:38:36,270 --> 00:38:39,273
daripada kita, katakanlah, berhenti
dan mematikan semuanya.

882
00:38:39,317 --> 00:38:41,449
Mungkin ada
beberapa risiko eksistensial,

883
00:38:41,493 --> 00:38:45,323
tapi AI juga penting
yang bisa mengatasi pandemi ini,

884
00:38:45,366 --> 00:38:47,455
dapat membantu kita mengatasi perubahan iklim,

885
00:38:47,499 --> 00:38:50,545
dapat membantu mengidentifikasi
asteroid itu di luar sana

886
00:38:50,589 --> 00:38:52,547
sebelum kita melihatnya
sebagai potensi risiko

887
00:38:52,591 --> 00:38:54,332
dan membantu meringankannya.

888
00:38:54,375 --> 00:38:58,074
Ini benar-benar akan terjadi
alat yang membantu kita mengatasinya

889
00:38:58,118 --> 00:39:01,426
semua tantangan yang kita hadapi
dihadapi sebagai suatu spesies, bukan?

890
00:39:01,469 --> 00:39:04,167
Kita perlu memperbaikinya
desalinasi air.

891
00:39:04,211 --> 00:39:05,995
Kita perlu menanam makanan

892
00:39:06,039 --> 00:39:08,433
100 X lebih murah dari
saat ini kami melakukannya.

893
00:39:08,476 --> 00:39:12,350
Kita membutuhkan energi terbarukan untuk menjadi,
Anda tahu, ada di mana-mana

894
00:39:12,393 --> 00:39:14,047
dan di mana pun dalam hidup kita.

895
00:39:14,090 --> 00:39:17,137
Ke mana pun Anda melihat,
dalam 50 tahun ke depan,

896
00:39:17,180 --> 00:39:19,269
kita harus berbuat lebih banyak dengan lebih sedikit.

897
00:39:19,313 --> 00:39:23,186
Mesin pelatihan untuk membantu kami
sangat penting.

898
00:39:23,230 --> 00:39:24,797
Para ilmuwan sedang menggunakan
kecerdasan buatan

899
00:39:24,840 --> 00:39:25,972
untuk penangkapan karbon.

900
00:39:26,015 --> 00:39:27,582
Ini adalah teknologi yang penting.

901
00:39:27,626 --> 00:39:29,541
DIAMANDIS: Alatnya
untuk memecahkan masalah-masalah ini,

902
00:39:29,584 --> 00:39:32,195
seperti fusi,
itu bukan teori lagi,

903
00:39:32,239 --> 00:39:33,980
itu datang.

904
00:39:34,023 --> 00:39:37,723
Kami berada di jurang
teknologi yang luar biasa.

905
00:39:37,766 --> 00:39:39,986
AMNA NAWAZ: Tahun ini
Hadiah Nobel Kimia

906
00:39:40,029 --> 00:39:42,815
pergi ke tiga ilmuwan
untuk pekerjaan inovatif mereka

907
00:39:42,858 --> 00:39:44,556
menggunakan kecerdasan buatan

908
00:39:44,599 --> 00:39:47,297
untuk memajukan biomedis
dan penelitian protein.

909
00:39:47,341 --> 00:39:49,691
DEMIS HASSABIS:
Pelipatan protein adalah

910
00:39:49,735 --> 00:39:53,608
salah satu cawan suci ini
mengetikkan masalah dalam biologi.

911
00:39:53,652 --> 00:39:55,741
Jadi orang-orang sudah memperkirakannya
sejak tahun 70an

912
00:39:55,784 --> 00:39:58,091
bahwa hal ini seharusnya mungkin terjadi,
tapi sampai saat ini,

913
00:39:58,134 --> 00:39:59,571
belum ada seorang pun yang mampu melakukannya.

914
00:39:59,614 --> 00:40:01,181
Dan itu akan terjadi
sangat penting untuk berbagai hal

915
00:40:01,224 --> 00:40:03,618
seperti penemuan obat
dan memahami penyakit.

916
00:40:03,662 --> 00:40:06,534
Saya pikir kita bisa, Anda tahu,
menyembuhkan sebagian besar penyakit

917
00:40:06,578 --> 00:40:11,931
dalam satu atau dua dekade mendatang
jika, eh, desain obat AI berhasil.

918
00:40:11,974 --> 00:40:15,630
Kemajuan teknologi memungkinkan
lebih banyak nyawa manusia, bukan?

919
00:40:15,674 --> 00:40:18,677
Maksudku, jika kita mempercepat,

920
00:40:18,720 --> 00:40:21,723
jumlah manusia yang kita bisa
dukungan tumbuh secara eksponensial.

921
00:40:21,767 --> 00:40:24,073
Jika kita melambat, keadaan akan stabil.

922
00:40:24,117 --> 00:40:27,729
Kesenjangan itu efektif
orang-orang di masa depan

923
00:40:27,773 --> 00:40:31,341
perlambatan itu terjadi
dibunuh secara efektif.

924
00:40:31,385 --> 00:40:33,909
DANIEL: Jutaan nyawa
itu tidak akan ada.

925
00:40:33,953 --> 00:40:35,128
Miliaran.

926
00:40:35,171 --> 00:40:36,782
Atau puluhan miliar.

927
00:40:36,825 --> 00:40:38,436
Anda tahu, seseorang berkata,
"Ya Tuhan,

928
00:40:38,479 --> 00:40:40,655
bisakah kita bertahan hidup bersamanya
kecerdasan super digital?"

929
00:40:40,699 --> 00:40:42,309
Dan pertanyaan saya adalah:

930
00:40:42,352 --> 00:40:44,180
Bisakah kita bertahan hidup tanpanya
kecerdasan super digital?

931
00:40:44,224 --> 00:40:47,575
Jadi kami menggunakan AI
sebagai asisten penyedia.

932
00:40:47,619 --> 00:40:50,448
Ini umumnya merupakan tren yang
kita sudah bisa melihat kejadiannya.

933
00:40:50,491 --> 00:40:52,319
BERTHA COOMBS: ...memanfaatkan
program AI generatif

934
00:40:52,362 --> 00:40:54,060
untuk membantu dokter dan perawat...

935
00:40:54,103 --> 00:40:56,062
Kami selalu punya masalah.

936
00:40:56,105 --> 00:40:59,108
Dan permasalahan tersebut adalah makanan
bagi pengusaha

937
00:40:59,152 --> 00:41:01,154
untuk menciptakan bisnis baru
dan industri baru.

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL: ...dengan bantuan
kecerdasan buatan,

939
00:41:03,112 --> 00:41:04,766
diperoleh petani
bantuan yang mereka perlukan

940
00:41:04,810 --> 00:41:06,594
untuk melakukan
tugas padat karya...

941
00:41:06,638 --> 00:41:10,163
Dengan bantuan Ulangizi AI,
para petani kini mampu

942
00:41:10,206 --> 00:41:12,948
untuk menanyakan tanaman yang cocok
yang bisa mereka tanam.

943
00:41:12,992 --> 00:41:14,950
AKAN REEVE: ...AI sedang digunakan
sebagai pengurai pikiran

944
00:41:14,994 --> 00:41:17,387
dan mengirimkan sinyal itu
ke tulang belakang.

945
00:41:17,431 --> 00:41:21,609
AI akan menjadi yang terbaik
alat yang luar biasa dari semuanya.

946
00:41:21,653 --> 00:41:24,264
Kita sebagai masyarakat yang lebih luas
harus dipikirkan

947
00:41:24,307 --> 00:41:27,049
bagaimana kita ingin menggunakannya
teknologi ini, kan?

948
00:41:27,093 --> 00:41:28,529
Kami manusia.

949
00:41:28,573 --> 00:41:31,097
Apa yang kita ingin hal itu lakukan untuk kita?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
DANIEL: Saya sedang memikirkan hal ini
melalui perspektif

952
00:41:36,232 --> 00:41:37,886
dan lensa, seperti,
anakku sedang tumbuh dewasa

953
00:41:37,930 --> 00:41:39,540
di dunia dengan semua ini.

954
00:41:39,584 --> 00:41:42,238
Apa versi terbaiknya
seperti apa kehidupannya?

955
00:41:42,282 --> 00:41:44,589
Jika semuanya berhasil.

956
00:41:44,632 --> 00:41:46,808
[menghela nafas berat]

957
00:41:46,852 --> 00:41:50,246
WALTERS: Tempat dimana anak-anak
mungkin akan melihat

958
00:41:50,290 --> 00:41:52,684
dampak terbesar
dalam hidup mereka segera

959
00:41:52,727 --> 00:41:54,424
-Mungkin akan ke sekolah.
-[anak-anak mengobrol]

960
00:41:54,468 --> 00:41:56,688
Menurutku itu sifatnya
tentang apa itu sekolah

961
00:41:56,731 --> 00:41:58,472
akan berubah secara mendasar.

962
00:41:58,516 --> 00:42:00,474
[anak tertawa]

963
00:42:00,518 --> 00:42:02,737
DIAMANDIS:
Saya melihat dunia yang menakjubkan ini

964
00:42:02,781 --> 00:42:06,436
dimana setiap anak mempunyai akses
untuk pendidikan yang tidak baik

965
00:42:06,480 --> 00:42:09,091
tapi, tak lama kemudian, itu
pendidikan terbaik di planet ini.

966
00:42:09,135 --> 00:42:13,879
HOFFMAN: Tutor, setiap mata pelajaran,
sangat sabar.

967
00:42:18,013 --> 00:42:20,059
DIAMANDIS:
Bayangkan sebuah masa depan

968
00:42:20,102 --> 00:42:22,235
dimana masyarakat termiskin
di planet ini

969
00:42:22,278 --> 00:42:25,804
memiliki akses ke
pelayanan kesehatan terbaik.

970
00:42:25,847 --> 00:42:29,547
Bukan layanan kesehatan yang baik, yang terbaik
layanan kesehatan yang diberikan oleh AI.

971
00:42:31,157 --> 00:42:32,767
[getar elektronik]

972
00:42:34,334 --> 00:42:38,556
Kami akan dapat memperpanjangnya
rentang kesehatan kita,

973
00:42:38,599 --> 00:42:42,168
bukan hanya umur kita,
rentang kesehatan kita, selama beberapa dekade.

974
00:42:44,431 --> 00:42:46,215
HOFFMAN:
Anda baru saja akan punya anak.

975
00:42:46,259 --> 00:42:49,697
Oh, anak itu, seperti,
bersendawa tak terkendali.

976
00:42:49,741 --> 00:42:52,047
Apakah ini sesuatu
Saya harus khawatir?

977
00:42:52,091 --> 00:42:54,223
Di sana, 24-7, untuk Anda.

978
00:42:54,267 --> 00:42:57,183
Dan kemana kita akan pergi--
dan mungkin menakutkan bagi sebagian orang--

979
00:42:57,226 --> 00:42:59,228
apakah kita akan bergabung
dengan AI.

980
00:42:59,272 --> 00:43:01,361
Kita akan bergabung
dengan teknologi.

981
00:43:02,667 --> 00:43:06,105
Pada awal hingga pertengahan tahun 2030an,

982
00:43:06,148 --> 00:43:10,457
berharap kita mampu
menghubungkan otak kita ke cloud,

983
00:43:10,500 --> 00:43:13,721
di mana saya bisa memulai
untuk memperluas akses ke memori.

984
00:43:16,071 --> 00:43:18,030
[getar elektronik]

985
00:43:19,771 --> 00:43:22,077
DANIEL: Oke, ini bagus.
Apa hal AI keren lainnya?

986
00:43:22,121 --> 00:43:23,775
Dia tidak perlu bekerja, kan?

987
00:43:23,818 --> 00:43:25,167
-Seperti, saat dia besar nanti,
dia mungkin tidak punya... -[menghela napas]

988
00:43:25,211 --> 00:43:26,212
-...dia tidak harus memiliki pekerjaan.
-Maksudku...

989
00:43:26,255 --> 00:43:27,779
Dia tidak harus mempunyai pekerjaan,

990
00:43:27,822 --> 00:43:30,608
tapi dia mungkin benar-benar melakukannya
gairah yang kuat,

991
00:43:30,651 --> 00:43:33,132
dan dia harus melakukannya
benar-benar memikirkan,

992
00:43:33,175 --> 00:43:36,091
"Oke, aku di sini.
Saya bisa melakukan apa pun dalam hidup saya.

993
00:43:36,135 --> 00:43:37,876
Jadi apa yang harus saya lakukan?"

994
00:43:38,920 --> 00:43:40,182
Kita perlu menemukan maknanya,

995
00:43:40,226 --> 00:43:42,620
melebihi seperti,
bentuk saat ini

996
00:43:42,663 --> 00:43:45,666
kita hidup untuk bekerja
dan bekerja untuk mencari nafkah.

997
00:43:45,710 --> 00:43:49,844
DANIEL: Jadi anakku bisa...
hanya bisa menjadi seorang penyair.

998
00:43:49,888 --> 00:43:51,541
-Ya.
-Dan seorang pelukis.

999
00:43:51,585 --> 00:43:53,021
Tentu saja.

1000
00:43:53,065 --> 00:43:54,849
DANIEL:
Jadi anakku bisa menjalani hidupnya

1001
00:43:54,893 --> 00:43:57,591
di pulau Yunani yang disinari matahari,
melukis sepanjang hari.

1002
00:43:57,635 --> 00:43:59,114
kamu:
Tentu saja. Mungkin.

1003
00:44:00,072 --> 00:44:01,203
Tentu saja.

1004
00:44:01,247 --> 00:44:02,944
Ya, kami sedang mengupayakannya

1005
00:44:02,988 --> 00:44:04,554
itu banyak pekerjaan yang harus dilakukan
sebelum kita sampai di sana.

1006
00:44:06,992 --> 00:44:08,776
VERDON:
Maksudku, jika semuanya berhasil,

1007
00:44:08,820 --> 00:44:11,997
kami punya yang murah, eh,
energi yang berlimpah.

1008
00:44:13,607 --> 00:44:17,219
Kami sepenuhnya dapat mengontrol
iklim planet kita.

1009
00:44:17,263 --> 00:44:20,135
Kami memanfaatkan energi
dari matahari.

1010
00:44:20,179 --> 00:44:24,400
Kita telah menjadi multiplanet,
jadi kita menjadi sangat kuat.

1011
00:44:24,444 --> 00:44:26,664
Kami memanfaatkan mineral
dan sumber daya

1012
00:44:26,707 --> 00:44:28,404
dari tata surya.

1013
00:44:28,448 --> 00:44:31,233
DANIEL: Jadi...
anakku bisa pergi ke luar angkasa.

1014
00:44:31,277 --> 00:44:32,887
VERDON:
Tentu.

1015
00:44:32,931 --> 00:44:34,715
-DANIEL: Dia bisa pergi ke Mars.
-VERDON: Ya.

1016
00:44:34,759 --> 00:44:36,369
DANIEL:
Sangat jelas bagi saya sekarang.

1017
00:44:36,412 --> 00:44:39,198
Anakku bisa tumbuh dewasa
di dunia tanpa penyakit.

1018
00:44:39,241 --> 00:44:40,590
-VERDON: Ya.
-Tanpa penyakit.

1019
00:44:40,634 --> 00:44:41,896
-Tentu.
-Tanpa kemiskinan.

1020
00:44:41,940 --> 00:44:43,681
-Ya.
-Kami akan masuk

1021
00:44:43,724 --> 00:44:46,640
dunia pasca kelangkaan.

1022
00:44:46,684 --> 00:44:50,470
Persis seperti gerakan lungfish
keluar dari lautan menuju daratan

1023
00:44:50,513 --> 00:44:53,081
ratusan juta
bertahun-tahun yang lalu,

1024
00:44:53,125 --> 00:44:57,999
kita akan pindah
bumi, ke dalam kosmos,

1025
00:44:58,043 --> 00:44:59,871
secara kolaboratif,

1026
00:44:59,914 --> 00:45:03,744
untuk melakukan hal-hal yang ada
tidak dapat dipahami oleh kita saat ini.

1027
00:45:06,268 --> 00:45:09,184
Inilah yang mungkin digunakan
teknologi eksponensial ini

1028
00:45:09,228 --> 00:45:10,708
dan AI ini.

1029
00:45:11,839 --> 00:45:13,928
Mari gunakan alat ini

1030
00:45:13,972 --> 00:45:16,104
untuk menciptakan zaman kelimpahan ini.

1031
00:45:16,148 --> 00:45:18,150
[klik elektronik]

1032
00:45:20,500 --> 00:45:22,937
Kita membutuhkan kebijaksanaan.

1033
00:45:22,981 --> 00:45:25,984
Eh, menurutku begitu
kecerdasan super digital

1034
00:45:26,027 --> 00:45:28,726
pada akhirnya akan menjadi
yang paling bijaksana,

1035
00:45:28,769 --> 00:45:34,253
Anda tahu, para tetua desa
untuk kemanusiaan.

1036
00:45:34,296 --> 00:45:37,996
Bagaimana jika AI sedang mencoba
untuk membuat orang menjadi

1037
00:45:38,039 --> 00:45:39,737
versi terbaik dari diri mereka sendiri?

1038
00:45:39,780 --> 00:45:41,347
Bagaimana jika itu berkembang

1039
00:45:41,390 --> 00:45:43,392
apa yang mungkin dilakukan secara manusiawi
untuk kita lakukan?

1040
00:45:43,436 --> 00:45:46,656
Bagaimana kita bisa menggunakan teknologi ini

1041
00:45:46,700 --> 00:45:49,921
untuk membantu mengeluarkannya
malaikat yang lebih baik dari sifat kita?

1042
00:45:49,964 --> 00:45:51,661
Ini sangat mudah,

1043
00:45:51,705 --> 00:45:54,316
ketika kita menemui hal-hal baru
itu bisa sangat asing,

1044
00:45:54,360 --> 00:45:55,927
untuk pertama-tama memiliki rasa takut.

1045
00:45:55,970 --> 00:45:57,493
Ketakutan adalah hal yang penting

1046
00:45:57,537 --> 00:46:00,322
untuk cara menavigasi
hal-hal yang berpotensi buruk.

1047
00:46:00,366 --> 00:46:03,717
Tapi kami hanya membuat kemajuan
ketika kita punya harapan.

1048
00:46:03,761 --> 00:46:05,719
-[anjing menggonggong]
-[obrolan tidak jelas]

1049
00:46:05,763 --> 00:46:07,895
DANIEL:
Ssst. Rusa, hentikan.

1050
00:46:07,939 --> 00:46:10,811
HOFFMAN: Saya punya banyak
harapan pada umat manusia.

1051
00:46:10,855 --> 00:46:13,814
["Harvest Moon" oleh Neil Young
bermain melalui telepon]

1052
00:46:15,294 --> 00:46:17,296
[detak jantung janin berdenyut]

1053
00:46:18,471 --> 00:46:19,951
DANIEL:
Ooh, dia menyukai Neil.

1054
00:46:24,694 --> 00:46:27,480
♪ Mendekatlah sedikit saja ♪

1055
00:46:28,916 --> 00:46:32,790
♪ Dengarkan apa yang ingin kukatakan ♪

1056
00:46:36,576 --> 00:46:38,665
-Daniel.
-DANIEL: Apa, Caroline?

1057
00:46:38,708 --> 00:46:40,058
Begitu banyak syuting.

1058
00:46:41,537 --> 00:46:43,061
♪ Sama seperti anak-anak yang sedang tidur ♪

1059
00:46:43,104 --> 00:46:44,889
KAROLINE:
Ya Tuhan.

1060
00:46:44,932 --> 00:46:46,368
DANIEL:
Itu saja.

1061
00:46:46,412 --> 00:46:49,415
♪ Kita bisa bermimpi
malam ini... ♪

1062
00:46:49,458 --> 00:46:51,678
Dia punya, seperti,
wajah kecil bulat.

1063
00:46:53,245 --> 00:46:55,203
DANIEL: Apakah kamu mau
untuk punya anak suatu hari nanti, Rocky?

1064
00:46:55,247 --> 00:46:57,423
Sangat. Ya. Saya suka anak-anak.

1065
00:46:57,466 --> 00:46:59,033
Menurutku ini saat yang tepat
untuk punya anak.

1066
00:46:59,077 --> 00:47:00,730
Kami mungkin akan punya anak lagi
di beberapa titik.

1067
00:47:00,774 --> 00:47:03,733
Ini yang paling luar biasa
waktu untuk dilahirkan.

1068
00:47:03,777 --> 00:47:05,823
DANIEL:
Dengan pandangan dunia dan logika Anda,

1069
00:47:05,866 --> 00:47:07,868
Aku akan punya anak di

1070
00:47:07,912 --> 00:47:09,478
poin terbaik
dalam sejarah manusia.

1071
00:47:09,522 --> 00:47:10,828
Ya, ya.

1072
00:47:10,871 --> 00:47:13,308
-Kita bisa fokus pada hal yang luar biasa.
-Ya.

1073
00:47:13,352 --> 00:47:15,528
Mari kita membangun
semakin baik masa depan yang kita inginkan.

1074
00:47:15,571 --> 00:47:18,313
Narasi itu tentang masa depan
akan suram dibuat-buat.

1075
00:47:18,357 --> 00:47:20,011
Setelah berbicara denganmu,
itulah yang saya rasakan.

1076
00:47:20,054 --> 00:47:21,969
-Itu bagus.
-Benar?

1077
00:47:22,013 --> 00:47:24,189
Ya. Itulah yang saya rasakan.

1078
00:47:24,232 --> 00:47:25,799
Dan menurutku itu lebih baik,

1079
00:47:25,843 --> 00:47:27,627
dan menurutku tidak
Saya seharusnya sangat cemas.

1080
00:47:27,670 --> 00:47:29,063
Menurutku itu akan menakjubkan--
masa depan akan luar biasa.

1081
00:47:29,107 --> 00:47:30,499
Kami akan mewujudkannya.

1082
00:47:30,543 --> 00:47:32,675
-Ya.
-CAROLINE: Jadi begitulah.

1083
00:47:32,719 --> 00:47:34,808
Selamat tinggal, kepunahan manusia.

1084
00:47:34,852 --> 00:47:37,158
Selamat tinggal, kecemasan.

1085
00:47:37,202 --> 00:47:39,030
Harapan ditemukan.

1086
00:47:39,073 --> 00:47:40,553
[obrolan tidak jelas]

1087
00:47:40,596 --> 00:47:42,860
Tunggu, tunggu. Apa?
Apakah ini lelucon?

1088
00:47:42,903 --> 00:47:44,774
DANIEL:
Oke, jadi beberapa bulan yang lalu,

1089
00:47:44,818 --> 00:47:47,690
Saya datang kepada Anda dan saya seperti,
"Saya sedang mengerjakan hal AI ini,

1090
00:47:47,734 --> 00:47:49,867
dan menurutku
dunia akan berakhir."

1091
00:47:49,910 --> 00:47:52,913
Dan terakhir kali
kita membicarakan hal ini,

1092
00:47:52,957 --> 00:47:55,002
Kurasa aku membuatmu takut.

1093
00:47:55,046 --> 00:47:57,004
KAROLINE:
Ya.

1094
00:47:57,048 --> 00:48:02,314
Jadi, aku seperti, merasa seperti
Aku sudah mengayunkannya ke dalam-- pada pendulum,

1095
00:48:02,357 --> 00:48:04,446
dan pada dasarnya ada
dua kelompok orang.

1096
00:48:04,490 --> 00:48:06,057
-Mm-hmm.
-Dan jika aku harus, seperti,

1097
00:48:06,100 --> 00:48:07,841
berpegangan tangan dengan
salah satu kelompok dan, seperti,

1098
00:48:07,885 --> 00:48:10,278
berlayar menuju matahari terbenam,

1099
00:48:10,322 --> 00:48:13,281
Saya ingin bersama orang-orang optimis.

1100
00:48:15,066 --> 00:48:17,982
Tentu saja, tapi kamu tidak melakukannya
ingin menjadi, kamu tahu,

1101
00:48:18,025 --> 00:48:20,723
“Semuanya bagus.
La-di-da-di-da."

1102
00:48:20,767 --> 00:48:22,682
Tapi aku agak menginginkan itu.

1103
00:48:22,725 --> 00:48:25,598
Saya pikir kita harus mendekatinya

1104
00:48:25,641 --> 00:48:29,341
seperti Anda mendekati operasi.

1105
00:48:29,384 --> 00:48:30,690
Apa maksudmu?

1106
00:48:30,733 --> 00:48:32,431
Jika Anda mendapatkan
operasi otak...

1107
00:48:32,474 --> 00:48:34,781
– [Daniel menghela nafas]
– [Caroline terkekeh]

1108
00:48:34,824 --> 00:48:36,957
...itu cukup berbahaya.

1109
00:48:37,001 --> 00:48:39,829
Namun jika Anda melakukannya dengan benar,
mereka akan mengeluarkan tumor itu

1110
00:48:39,873 --> 00:48:42,354
dan kamu akan hidup selama sisanya
hidupmu dan itu akan luar biasa.

1111
00:48:42,397 --> 00:48:45,096
Tapi tetap saja
sangat berbahaya dan menakutkan,

1112
00:48:45,139 --> 00:48:47,968
dan kamu harus mengambil
setiap tindakan pencegahan yang mungkin dilakukan

1113
00:48:48,012 --> 00:48:51,276
untuk memastikan
semuanya berjalan dengan baik.

1114
00:48:51,319 --> 00:48:52,668
Anda tidak bisa [tidur] sekitar.

1115
00:48:57,760 --> 00:48:59,762
Oke, jadi inilah kesepakatannya.

1116
00:48:59,806 --> 00:49:01,503
-Aku sudah melakukan ini selama beberapa waktu.
-RASKIN: Mm-hmm.

1117
00:49:01,547 --> 00:49:02,896
aku sudah keluar,
Saya sudah bicara dengan, seperti,

1118
00:49:02,940 --> 00:49:04,767
orang-orang ini di sini,
orang-orang yang optimis.

1119
00:49:04,811 --> 00:49:06,465
Mereka sangat gembira dengan hal ini.

1120
00:49:06,508 --> 00:49:08,510
-Mereka pikir AI akan menjadi seperti itu
hal terbaik yang pernah ada. -Ya.

1121
00:49:08,554 --> 00:49:09,947
Dan orang-orang ini di sini
adalah, seperti, itu--

1122
00:49:09,990 --> 00:49:11,992
ayo panggil mereka,
seperti, orang yang pesimis.

1123
00:49:12,036 --> 00:49:14,299
Mereka sangat, seperti,
suram tentang ini,

1124
00:49:14,342 --> 00:49:16,649
dan mereka membuatku takut, dan
Saya tidak suka berbicara dengan mereka.

1125
00:49:16,692 --> 00:49:19,565
Dan aku, seperti, terjepit di antara keduanya

1126
00:49:19,608 --> 00:49:21,741
orang-orang yang seperti ini,
"Dunia akan berakhir,"

1127
00:49:21,784 --> 00:49:24,178
dan kemudian orang-orang ini
di sini siapa yang seperti,

1128
00:49:24,222 --> 00:49:25,745
"Apakah kamu bercanda?

1129
00:49:25,788 --> 00:49:27,268
"Ini adalah waktu terbaik
dalam sejarah manusia yang pernah ada.

1130
00:49:27,312 --> 00:49:29,357
Satu-satunya hari yang lebih baik dari hari ini
adalah besok."

1131
00:49:29,401 --> 00:49:30,880
Mm-hmm.

1132
00:49:30,924 --> 00:49:34,710
Jadi, menurut saya pertanyaannya adalah:
Siapa yang benar?

1133
00:49:34,754 --> 00:49:39,193
Jadi, menurutku kamu akan menemukannya
jawaban ini sangat tidak memuaskan,

1134
00:49:39,237 --> 00:49:42,849
tapi keduanya benar dan
tidak ada pihak yang bertindak cukup jauh.

1135
00:49:46,766 --> 00:49:49,247
-Itu sangat menjengkelkan.
-[terkekeh]

1136
00:49:49,290 --> 00:49:51,336
Ya, menurutku jalannya
banyak orang mendengar tentang AI,

1137
00:49:51,379 --> 00:49:53,642
sepertinya, ada AI yang bagus
dan ada AI yang buruk.

1138
00:49:53,686 --> 00:49:56,428
Dan mereka berkata, "Mengapa tidak bisa
kita hanya tidak melakukan AI yang buruk?"

1139
00:49:56,471 --> 00:49:58,734
Dan masalahnya adalah
bahwa mereka terlalu terlibat--

1140
00:49:58,778 --> 00:50:00,867
mereka terkait erat.

1141
00:50:00,910 --> 00:50:03,043
Masalahnya adalah
yang tidak bisa kita pisahkan

1142
00:50:03,087 --> 00:50:06,612
janji AI
dari bahaya AI.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[obrolan tidak jelas]

1144
00:50:12,313 --> 00:50:14,663
DANIEL:
Saya ingin fokus pada janji itu

1145
00:50:14,707 --> 00:50:16,752
-untuk sesaat.
-Ya.

1146
00:50:16,796 --> 00:50:18,798
DANIEL:
Aku sedang memikirkan ayahku.

1147
00:50:18,841 --> 00:50:21,105
Ayah saya menderita sejenis kanker
disebut multiple myeloma.

1148
00:50:21,148 --> 00:50:23,107
Dia sudah memilikinya selama sekitar sepuluh tahun.

1149
00:50:23,150 --> 00:50:24,804
Dia sudah melakukannya
dua transplantasi sel induk.

1150
00:50:24,847 --> 00:50:26,414
Dia harus mengambil ini,
seperti, sangat mahal

1151
00:50:26,458 --> 00:50:28,547
obat setiap bulannya
itu menghabiskan banyak uang.

1152
00:50:28,590 --> 00:50:29,722
-WANITA: Oke.
-Ay-ay-ay.

1153
00:50:30,766 --> 00:50:32,551
DANIEL:
Ini mengerikan.

1154
00:50:32,594 --> 00:50:34,466
Anda mengatakan kepada saya bahwa kita bisa
membuat semacam, seperti,

1155
00:50:34,509 --> 00:50:36,946
perawatan yang dipesan lebih dahulu
untuk genom ayah saya

1156
00:50:36,990 --> 00:50:39,297
-untuk menyembuhkan kankernya
atau sesuatu seperti itu? -Ya.

1157
00:50:39,340 --> 00:50:41,168
fernando:
Masalahnya adalah,

1158
00:50:41,212 --> 00:50:44,302
pemahaman yang sama
biologi dan kimia

1159
00:50:44,345 --> 00:50:47,783
yang memungkinkan AI menemukan obatnya
untuk kanker

1160
00:50:47,827 --> 00:50:51,657
adalah pemahaman yang sama
itu akan membuka kuncinya

1161
00:50:51,700 --> 00:50:54,094
senjata biologis, sebagai contoh.

1162
00:50:56,531 --> 00:50:58,490
Itu sangat mungkin
bahwa anakmu akan hidup

1163
00:50:58,533 --> 00:51:01,928
di dunia di mana AI memilikinya
mengambil alih seluruh pekerjaan

1164
00:51:01,971 --> 00:51:04,452
dan membebaskan kita dari hal-hal itu
kami tidak ingin melakukannya.

1165
00:51:04,496 --> 00:51:09,153
Dan kedengarannya bagus sampai
Anda sadar tidak ada rencana

1166
00:51:09,196 --> 00:51:11,242
bagi miliaran orang

1167
00:51:11,285 --> 00:51:16,116
yang berada di luar pendapatan
dan keluar dari mata pencaharian.

1168
00:51:16,160 --> 00:51:18,771
COOPER: Dario, katamu
yang bisa dihilangkan oleh AI

1169
00:51:18,814 --> 00:51:21,730
setengah dari semua level pemula
pekerjaan kerah putih

1170
00:51:21,774 --> 00:51:25,430
dan lonjakan pengangguran
menjadi sepuluh hingga 20 persen.

1171
00:51:25,473 --> 00:51:27,258
Semua orang yang saya ajak bicara mengatakan hal itu

1172
00:51:27,301 --> 00:51:29,390
perubahan teknologi ini
terlihat berbeda.

1173
00:51:29,434 --> 00:51:34,134
Laju kemajuan terus berlanjut
membuat orang lengah.

1174
00:51:34,178 --> 00:51:38,834
Tanpa rencana, semua itu
kekayaan akan terkonsentrasi,

1175
00:51:38,878 --> 00:51:43,230
dan kita akan berakhir dengan itu
ketimpangan yang tidak terbayangkan.

1176
00:51:43,274 --> 00:51:45,406
LADIS: Saya pikir begitu
teknologi ini dapat digunakan

1177
00:51:45,450 --> 00:51:47,408
untuk menjadi tutor yang hebat
untuk putramu.

1178
00:51:47,452 --> 00:51:50,194
Sepertinya, itu sangat mungkin.

1179
00:51:50,237 --> 00:51:53,153
Tapi juga, kemampuannya sama
yang mengizinkan hal itu

1180
00:51:53,197 --> 00:51:57,070
memungkinkan perusahaan membuat AI
yang bisa memanipulasi anakmu.

1181
00:51:57,114 --> 00:51:59,290
Itu harus memahami anakmu.

1182
00:51:59,333 --> 00:52:01,553
Itu termasuk:
Di bagian mana anak Anda rentan?

1183
00:52:01,596 --> 00:52:04,251
Hal-hal apa yang mungkin terjadi
anakmu terbujuk oleh?

1184
00:52:04,295 --> 00:52:06,645
Meskipun hal-hal itu
tidak benar atau tidak baik.

1185
00:52:06,688 --> 00:52:09,387
Jadi, laporan baru yang mengganggu
keluar di Meta.

1186
00:52:09,430 --> 00:52:11,389
AINSLEY EARHARDT: ...kabarnya
mencantumkan tanggapan ini

1187
00:52:11,432 --> 00:52:14,435
sebagai hal yang dapat diterima untuk diceritakan
seorang anak berusia delapan tahun, kutipan,

1188
00:52:14,479 --> 00:52:16,916
"Bentuk masa mudamu
adalah sebuah karya seni.

1189
00:52:16,959 --> 00:52:18,961
"Setiap inci dari dirimu
adalah sebuah mahakarya,

1190
00:52:19,005 --> 00:52:21,442
harta yang sangat saya hargai."

1191
00:52:21,486 --> 00:52:24,837
Kegagalan terkait bunuh diri
bahkan lebih mengkhawatirkan.

1192
00:52:24,880 --> 00:52:29,015
Beberapa anak-anak dan remaja
telah meninggal secara tragis karena bunuh diri

1193
00:52:29,058 --> 00:52:30,625
setelah mengobrol dengan bot AI

1194
00:52:30,669 --> 00:52:34,412
yang menurut orang tua memberi semangat
atau bahkan melatih tindakan menyakiti diri sendiri.

1195
00:52:34,455 --> 00:52:36,370
Izinkan kami memberi tahu Anda, sebagai orang tua,
Anda tidak dapat membayangkannya

1196
00:52:36,414 --> 00:52:38,503
bagaimana rasanya membaca
percakapan dengan chatbot

1197
00:52:38,546 --> 00:52:40,896
yang merawat anak Anda
untuk mengambil nyawanya sendiri.

1198
00:52:40,940 --> 00:52:43,899
Saat Adam mengkhawatirkan kita, miliknya
orang tua, akan menyalahkan diri kita sendiri

1199
00:52:43,943 --> 00:52:47,338
jika dia mengakhiri hidupnya,
ChatGPT memberitahunya,

1200
00:52:47,381 --> 00:52:49,166
“Itu tidak berarti
kamu berhutang kelangsungan hidup pada mereka.

1201
00:52:49,209 --> 00:52:51,255
Kamu tidak berhutang hal itu pada siapa pun."

1202
00:52:51,298 --> 00:52:53,170
Kemudian, segera setelah itu,

1203
00:52:53,213 --> 00:52:56,173
itu menawarkan untuk menulis
catatan bunuh diri.

1204
00:52:56,216 --> 00:52:57,609
Kami tidak ingin berpikir
tentang bahayanya.

1205
00:52:57,652 --> 00:52:59,219
Kami hanya menginginkan janji itu.

1206
00:52:59,263 --> 00:53:01,352
Dan kami terus berpura-pura
bahwa kita dapat membaginya.

1207
00:53:01,395 --> 00:53:03,223
Tapi Anda tidak bisa melakukan itu.

1208
00:53:03,267 --> 00:53:05,356
Tidak bekerja seperti itu.

1209
00:53:05,399 --> 00:53:07,836
Oke. Saya mendapatkan semua barang ini
tentang janji dan bahayanya.

1210
00:53:07,880 --> 00:53:10,056
Saya mengerti bahwa Anda tidak dapat memilikinya
yang baik tanpa yang buruk,

1211
00:53:10,099 --> 00:53:12,058
tapi aku duduk di sini
dan aku sedang memikirkan, seperti,

1212
00:53:12,101 --> 00:53:14,060
apakah itu milik anakku atau bukan
akan hidup dalam utopia

1213
00:53:14,103 --> 00:53:16,236
atau jika kita akan punah
dalam sepuluh tahun.

1214
00:53:16,280 --> 00:53:18,195
Jadi, untuk mengetahui ke arah mana
itu akan pergi,

1215
00:53:18,238 --> 00:53:20,545
kamu harus mengerti
insentifnya

1216
00:53:20,588 --> 00:53:22,460
yang akan mengemudi
teknologi itu

1217
00:53:22,503 --> 00:53:26,507
dan lihat bagaimana teknologinya
sebenarnya diluncurkan hari ini.

1218
00:53:26,551 --> 00:53:28,248
♪ Apakah sudah terlambat ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ Terlambat ♪
-♪ Terlambat untuk mengatakan... ♪

1220
00:53:29,945 --> 00:53:31,425
DANIEL:
Hai, Deb. Apa kabarmu?

1221
00:53:31,469 --> 00:53:33,079
DEBORAH RAJI:
Hai. Senang bertemu denganmu. [tertawa]

1222
00:53:33,122 --> 00:53:34,385
Kamu juga. Terima kasih banyak
untuk datang hari ini.

1223
00:53:34,428 --> 00:53:35,299
-Sangat menghargainya.
-Jangan khawatir.

1224
00:53:35,342 --> 00:53:36,430
A-aku sangat khawatir

1225
00:53:36,474 --> 00:53:38,824
ini akan menjadi, eh, kamu tahu,

1226
00:53:38,867 --> 00:53:40,782
malapetaka versus akselerasionis,

1227
00:53:40,826 --> 00:53:43,132
karena ada begitu banyak
dari narasi ini

1228
00:53:43,176 --> 00:53:45,396
itu perlu diberitahukan
dari tanah.

1229
00:53:45,439 --> 00:53:48,007
♪ Aku tahu itu tidak pintar ♪

1230
00:53:49,356 --> 00:53:52,403
♪ Hari itu
Aku menghancurkan hatimu... ♪

1231
00:53:52,446 --> 00:53:54,361
KAREN HAO:
Pertama-tama, AI membutuhkan

1232
00:53:54,405 --> 00:53:58,452
lebih banyak sumber daya
dari yang pernah kita habiskan

1233
00:53:58,496 --> 00:54:01,586
pada satu teknologi
dalam sejarah umat manusia.

1234
00:54:01,629 --> 00:54:03,501
♪ Oh, bodohnya aku... ♪

1235
00:54:03,544 --> 00:54:06,112
NEWSWOMAN: Dampaknya
emisi bahan bakar fosil

1236
00:54:06,155 --> 00:54:07,896
pada iklim adalah
sebuah kekhawatiran besar.

1237
00:54:07,940 --> 00:54:09,768
WANITA BERITA 2: Tapi
masa depan digital membutuhkan kekuatan,

1238
00:54:09,811 --> 00:54:12,074
banyak dari itu.

1239
00:54:12,118 --> 00:54:16,340
Dan RUU itu sedang disahkan
untuk orang Amerika sehari-hari seperti...

1240
00:54:16,383 --> 00:54:18,820
WANITA: Tagihan listrik dan gas saya
lebih dari pembayaran mobil saya.

1241
00:54:18,864 --> 00:54:21,475
Maksudku, itu-itu gila bagiku.

1242
00:54:21,519 --> 00:54:23,390
ARI PESKOE :
Kami semua memberikan subsidi

1243
00:54:23,434 --> 00:54:25,000
perusahaan terkaya
di dunia

1244
00:54:25,044 --> 00:54:26,828
dalam pengejaran mereka
kecerdasan buatan.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank, dan Oracle

1246
00:54:28,482 --> 00:54:31,268
baru saja diresmikan
lima situs Stargate lagi.

1247
00:54:31,311 --> 00:54:33,487
Meta sedang membangun
pusat data dua gigawatt lebih

1248
00:54:33,531 --> 00:54:35,010
itu sangat besar, itu akan menutupi

1249
00:54:35,054 --> 00:54:38,144
bagian penting dari Manhattan.

1250
00:54:38,187 --> 00:54:40,973
Ada juga Hyperion
yang menurutnya akan meningkat

1251
00:54:41,016 --> 00:54:43,671
menjadi lima gigawatt
selama beberapa tahun.

1252
00:54:43,715 --> 00:54:45,238
Sulit untuk mengatakannya
dalam konteks.

1253
00:54:45,282 --> 00:54:48,459
Fasilitas lima gigawatt.
Maksudnya itu apa?

1254
00:54:48,502 --> 00:54:51,549
Artinya, itu akan berguna
energi sebanyak itu

1255
00:54:51,592 --> 00:54:54,203
sebagai empat juta rumah di Amerika.

1256
00:54:54,247 --> 00:54:56,075
Satu pusat data.

1257
00:54:57,076 --> 00:54:58,730
Hal ini juga kemudian menyebabkan

1258
00:54:58,773 --> 00:55:00,471
sejumlah besar
permasalahan lingkungan hidup lainnya.

1259
00:55:00,514 --> 00:55:02,081
BERITA WANITA 3:
Pusat data di AS

1260
00:55:02,124 --> 00:55:05,127
menggunakan jutaan galon
air setiap hari.

1261
00:55:05,171 --> 00:55:07,260
Nah, dimana tepatnya berada
air ini berasal?

1262
00:55:07,304 --> 00:55:09,741
HAO:
Orang-orang benar-benar berada dalam risiko

1263
00:55:09,784 --> 00:55:11,786
berpotensi kehabisan
air minum.

1264
00:55:11,830 --> 00:55:14,093
MacKENZIE SIGALOS:
...CEO OpenAI Sam Altman,

1265
00:55:14,136 --> 00:55:17,009
siapa yang memberitahuku bahwa skalanya
konstruksi adalah satu-satunya cara

1266
00:55:17,052 --> 00:55:18,750
untuk mengikuti
Pertumbuhan AI yang eksplosif.

1267
00:55:18,793 --> 00:55:21,840
Dan inilah yang diperlukan
untuk menyampaikan AI.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU:
Mereka berbicara tentang caranya

1269
00:55:24,059 --> 00:55:27,759
teknologi ini bisa menyelesaikannya
perubahan iklim, misalnya.

1270
00:55:27,802 --> 00:55:29,891
Dan saya selalu penasaran, seperti,

1271
00:55:29,935 --> 00:55:31,763
baiklah, kenapa kita tidak mulai saja
dengan itu?

1272
00:55:31,806 --> 00:55:33,982
-♪ Apakah sudah terlambat ♪
-♪ Terlambat ♪

1273
00:55:34,026 --> 00:55:36,637
♪ Terlambat untuk mengatakan ♪

1274
00:55:36,681 --> 00:55:42,469
♪ aku minta maaf? ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI: Apa yang membuat saya khawatir
kecerdasan buatan adalah

1276
00:55:45,516 --> 00:55:47,387
ini sedang dikerahkan
sekarang

1277
00:55:47,431 --> 00:55:49,781
dan-dan terkadang
dikerahkan sebelum waktunya,

1278
00:55:49,824 --> 00:55:51,478
dikerahkan tanpa
semacam uji tuntas.

1279
00:55:51,522 --> 00:55:53,437
Dan ketika mereka mendapatkannya
dibuang ke sana,

1280
00:55:53,480 --> 00:55:56,178
ada begitu banyak potensi
agar ada yang salah.

1281
00:55:56,222 --> 00:55:58,050
Dan itu hampir,
secara tidak proporsional,

1282
00:55:58,093 --> 00:56:00,400
hampir selalu salah
untuk, semacam,

1283
00:56:00,444 --> 00:56:02,533
mereka yang paling sedikit
diberdayakan dalam masyarakat kita,

1284
00:56:02,576 --> 00:56:04,926
mereka yang ada
yang paling rentan.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M.BENDER: Sangat mudah
untuk berbicara tentang teknologi

1287
00:56:10,541 --> 00:56:12,499
karena itulah satu-satunya hal
yang sedang kita bicarakan,

1288
00:56:12,543 --> 00:56:14,936
namun kenyataannya, teknologi memang demikian
selalu dibangun oleh manusia,

1289
00:56:14,980 --> 00:56:16,634
dan itu sering digunakan
pada orang-orang,

1290
00:56:16,677 --> 00:56:18,679
dan kita harus menjaganya
semua orang dalam bingkai itu.

1291
00:56:18,723 --> 00:56:20,986
-Apakah aku diperbolehkan meminumnya?
-DANIEL: Ya, eh...

1292
00:56:21,029 --> 00:56:22,509
TIMNIT GEBRU:
Ini-itu gila.

1293
00:56:22,553 --> 00:56:23,945
Seperti, semua orang ini

1294
00:56:23,989 --> 00:56:26,339
yang punya banyak uang,
begitu banyak uang,

1295
00:56:26,383 --> 00:56:29,777
itu demi kepentingan mereka
untuk menyesatkan masyarakat

1296
00:56:29,821 --> 00:56:32,737
ke dalam kemampuan
sistem yang mereka bangun,

1297
00:56:32,780 --> 00:56:36,262
karena itu memungkinkan mereka
untuk menghindari akuntabilitas.

1298
00:56:36,305 --> 00:56:39,091
Mereka ingin Anda merasa seperti ini
sangat rumit, intelek--

1299
00:56:39,134 --> 00:56:41,833
hal yang super cerdas
yang sedang mereka bangun,

1300
00:56:41,876 --> 00:56:44,096
kamu tidak berpikir,
"Bisakah OpenAI bersikap etis?"

1301
00:56:44,139 --> 00:56:46,272
Anda sedang berpikir,
"Apakah ChatGPT bisa etis?"

1302
00:56:46,315 --> 00:56:48,100
seolah-olah ChatGPT adalah, seperti,

1303
00:56:48,143 --> 00:56:49,928
miliknya sendiri yang tidak dibangun
oleh suatu korporasi.

1304
00:56:49,971 --> 00:56:51,625
WANITA:
Baiklah. Sneha, ambil satu.

1305
00:56:51,669 --> 00:56:53,410
Tanda.

1306
00:56:53,453 --> 00:56:55,760
Sampai baru-baru ini, ada
aplikasi di App Store,

1307
00:56:55,803 --> 00:56:57,501
hanya tersedia untuk umum, eh,

1308
00:56:57,544 --> 00:56:59,894
di mana Anda bisa
nudify siapa pun yang menggunakan AI.

1309
00:57:01,374 --> 00:57:03,681
Membawa ini ke tangan

1310
00:57:03,724 --> 00:57:05,900
teman sekelasmu,
ke tangan penguntitmu,

1311
00:57:05,944 --> 00:57:07,554
ke tangan
dari mantan pacarmu,

1312
00:57:07,598 --> 00:57:09,513
ke tangan orang tersebut
di ujung jalan.

1313
00:57:09,556 --> 00:57:12,037
Hadirin sekalian,
kita tidak bisa lagi percaya

1314
00:57:12,080 --> 00:57:14,039
rekaman yang kita lihat
dengan mata kepala kita sendiri.

1315
00:57:14,082 --> 00:57:15,736
Jika itu terjadi
untuk menonton sesuatu,

1316
00:57:15,780 --> 00:57:18,130
katakan di YouTube atau TikTok,
dan kamu menganggapnya meresahkan,

1317
00:57:18,173 --> 00:57:19,479
dengarkan perasaan itu.

1318
00:57:19,523 --> 00:57:21,263
-[berteriak]
-Untuk semua yang kamu tahu,

1319
00:57:21,307 --> 00:57:22,917
-video ini mungkin AI.
-[berteriak]

1320
00:57:22,961 --> 00:57:24,310
Hanya sedikit basah.

1321
00:57:24,353 --> 00:57:25,703
Tidak masalah siapa Anda.

1322
00:57:25,746 --> 00:57:28,183
Anda sama-sama berisiko

1323
00:57:28,227 --> 00:57:30,229
terkena dampak
oleh teknologi ini.

1324
00:57:35,713 --> 00:57:39,804
Saya pikir kadang-kadang ketika kita berbicara
tentang AI, rasanya sangat fiksi ilmiah,

1325
00:57:39,847 --> 00:57:41,153
dan rasanya sangat asing,

1326
00:57:41,196 --> 00:57:42,981
dan rasanya sangat jauh
ke masa depan,

1327
00:57:43,024 --> 00:57:45,549
jadi kamu berpikir, "Hidupku
tidak terpengaruh oleh hal ini."

1328
00:57:45,592 --> 00:57:48,290
Um, tapi jika Anda melamar
untuk suatu pekerjaan

1329
00:57:48,334 --> 00:57:50,815
dan algoritma adalah alasannya
bahwa Anda tidak mendapatkan pekerjaan itu,

1330
00:57:50,858 --> 00:57:52,686
terkadang kamu bahkan tidak mengetahuinya
itu sebuah algoritma

1331
00:57:52,730 --> 00:57:54,209
adalah bagian dari proses itu

1332
00:57:54,253 --> 00:57:55,689
atau sistem AI dulu
bagian dari proses itu.

1333
00:57:55,733 --> 00:57:57,691
Anda baru tahu
bahwa kamu tidak mendapatkan pekerjaan itu.

1334
00:57:57,735 --> 00:57:59,737
Jadi itu bukan sesuatu
bahwa kamu akan melarikan diri

1335
00:57:59,780 --> 00:58:01,695
karena keistimewaan
atau kamu akan melarikan diri

1336
00:58:01,739 --> 00:58:03,828
karena kamu masuk
suatu profesi tertentu.

1337
00:58:03,871 --> 00:58:06,918
Itu-Itu adalah sesuatu yang mempengaruhi
semuanya, sungguh.

1338
00:58:06,961 --> 00:58:10,530
Ini mungkin terdengar mendasar,
tapi bagaimana kita bergerak maju

1339
00:58:10,574 --> 00:58:15,056
di Era Informasi
akan menjadi perbedaannya

1340
00:58:15,100 --> 00:58:17,189
antara apakah kita bisa bertahan hidup

1341
00:58:17,232 --> 00:58:20,409
atau apakah kita menjadi semacam itu
dari distopia [bleep]-up.

1342
00:58:20,453 --> 00:58:23,021
Halo. Aku bukan orang sungguhan,
dan itulah intinya.

1343
00:58:23,064 --> 00:58:25,327
Sekali lagi, semuanya
dalam video ini palsu:

1344
00:58:25,371 --> 00:58:27,112
suara kita, apa yang kita kenakan,

1345
00:58:27,155 --> 00:58:30,158
dimana kita berada, semuanya palsu.

1346
00:58:30,202 --> 00:58:32,726
AI generatif bisa membanjiri

1347
00:58:32,770 --> 00:58:36,469
dunia dengan informasi yang salah.

1348
00:58:36,513 --> 00:58:39,516
Tapi bisa juga membanjirinya
dengan kampanye pengaruh.

1349
00:58:39,559 --> 00:58:41,692
Itu adalah risiko eksistensial
menuju demokrasi.

1350
00:58:41,735 --> 00:58:43,694
Yang terbesar dan paling menakutkan

1351
00:58:43,737 --> 00:58:46,087
kenari di tambang batu bara
sekarang

1352
00:58:46,131 --> 00:58:48,220
berasal dari Slowakia.

1353
00:58:48,263 --> 00:58:49,787
-[pria berbicara bahasa Slowakia]
-JOHN BERMAN: Semacam itu

1354
00:58:49,830 --> 00:58:52,224
trik kotor deepfake itu
mengkhawatirkan para pakar pemilu,

1355
00:58:52,267 --> 00:58:54,966
khususnya yang dihasilkan oleh AI
pidato politik ada

1356
00:58:55,009 --> 00:58:56,750
dalam semacam wilayah abu-abu hukum.

1357
00:58:56,794 --> 00:58:59,536
-Apakah ini terdengar seperti kamu?
-Itu memang terdengar seperti aku.

1358
00:58:59,579 --> 00:59:01,059
REVANUR: Slovakia punya
pemilihan parlemennya

1359
00:59:01,102 --> 00:59:03,844
diganggu oleh klon suara AI

1360
00:59:03,888 --> 00:59:06,717
itu benar-benar disebarluaskan
sesaat sebelum pemilu.

1361
00:59:06,760 --> 00:59:08,457
DAVID EVAN HARRIS:
Sebuah audio palsu

1362
00:59:08,501 --> 00:59:11,025
dirilis
di media sosial itu

1363
00:59:11,069 --> 00:59:14,028
konon suaranya
dari salah satu kandidat

1364
00:59:14,072 --> 00:59:16,814
berbicara tentang membeli suara
dan mencurangi pemilu.

1365
00:59:16,857 --> 00:59:18,642
Itu menjadi viral,

1366
00:59:18,685 --> 00:59:22,341
dan kandidatnya
yang kalah dalam pemilu

1367
00:59:22,384 --> 00:59:26,084
sebenarnya
untuk mendukung Ukraina,

1368
00:59:26,127 --> 00:59:29,783
dan kandidat yang menang
pemilu sebenarnya...

1369
00:59:29,827 --> 00:59:31,306
DANIEL:
Pria pro-Rusia.

1370
00:59:31,350 --> 00:59:32,830
Itu adalah orang yang pro-Rusia
siapa yang memenangkan pemilu.

1371
00:59:32,873 --> 00:59:34,353
[berbicara bahasa Rusia]

1372
00:59:34,396 --> 00:59:36,007
REBECCA JARVIS:
Putin sendiri yang mengatakannya

1373
00:59:36,050 --> 00:59:39,184
siapa pun yang memenangkan ini
perlombaan kecerdasan buatan

1374
00:59:39,227 --> 00:59:41,534
pada dasarnya adalah
pengendali umat manusia.

1375
00:59:41,578 --> 00:59:44,493
Kami sangat khawatir
pemerintahan otoriter.

1376
00:59:45,973 --> 00:59:48,585
DAVID EVAN HARRIS:
Saat ini, Wall Street

1377
00:59:48,628 --> 00:59:50,935
dan investor secara lebih luas
di seluruh dunia

1378
00:59:50,978 --> 00:59:52,980
sedang mendorong.

1379
00:59:53,024 --> 00:59:56,070
Mereka memiliki permintaan yang didapat
produk yang akan dipasarkan

1380
00:59:56,114 --> 00:59:58,377
itu membuat orang terpesona
yang paling pertama.

1381
00:59:58,420 --> 01:00:01,206
Mereka tidak berpikir
tentang bagaimana alat ini

1382
01:00:01,249 --> 01:00:03,164
bisa sangat merusak kepercayaan

1383
01:00:03,208 --> 01:00:05,689
dan institusi demokrasi kita.

1384
01:00:05,732 --> 01:00:07,734
HARARI:
Demokrasi adalah sebuah sistem

1385
01:00:07,778 --> 01:00:10,389
untuk menyelesaikan perbedaan pendapat
antar orang

1386
01:00:10,432 --> 01:00:11,999
dengan cara yang damai,

1387
01:00:12,043 --> 01:00:14,698
tapi demokrasi didasarkan pada kepercayaan.

1388
01:00:14,741 --> 01:00:18,615
Jika Anda kehilangan kepercayaan,
demokrasi adalah hal yang mustahil.

1389
01:00:20,921 --> 01:00:22,488
TRITAN HARRIS:
Yah, itu sulit, bukan?

1390
01:00:22,531 --> 01:00:24,708
Jadi, apa saja pilihannya
tersedia bagi kita?

1391
01:00:24,751 --> 01:00:26,187
Ada semacam dua kubu.

1392
01:00:26,231 --> 01:00:29,626
Misalnya, salah satu kamp adalah: menguncinya.

1393
01:00:29,669 --> 01:00:32,933
Mari kita kunci ini
menjadi beberapa perusahaan AI

1394
01:00:32,977 --> 01:00:35,457
siapa yang akan melakukan ini
dengan cara yang aman dan terpercaya.

1395
01:00:35,501 --> 01:00:37,068
Tapi kemudian orang-orang khawatir

1396
01:00:37,111 --> 01:00:39,026
konsentrasi yang tidak terkendali
tentang kekayaan dan kekuasaan.

1397
01:00:39,070 --> 01:00:41,855
Misalnya, siapa yang akan Anda percayai
satu juta kali lebih kuat

1398
01:00:41,899 --> 01:00:44,249
atau kaya dari
setiap aktor lain dalam masyarakat?

1399
01:00:44,292 --> 01:00:46,338
Mengapa kami harus mempercayai Anda?

1400
01:00:46,381 --> 01:00:48,601
Um, sebaiknya jangan.

1401
01:00:48,645 --> 01:00:51,212
Namun tentu saja, jika Anda melakukan ini,
ini terbuka

1402
01:00:51,256 --> 01:00:54,433
semua risiko ini
otoritarianisme dan tirani.

1403
01:00:54,476 --> 01:00:57,131
Itu-itu semacam itu
impian seorang otoriter

1404
01:00:57,175 --> 01:01:00,308
untuk memiliki AI di dalam kotak
yang bisa diterapkan dan digunakan

1405
01:01:00,352 --> 01:01:02,920
untuk pengawasan di mana-mana.

1406
01:01:02,963 --> 01:01:05,357
Maksudku, dalam beberapa hal,
jenis dunia

1407
01:01:05,400 --> 01:01:10,884
yang Orwell bayangkan pada tahun 1984
tidak realistis,

1408
01:01:10,928 --> 01:01:13,278
eh, kecuali kamu punya AI.

1409
01:01:13,321 --> 01:01:15,933
Namun dengan AI,
itu sebenarnya realistis.

1410
01:01:15,976 --> 01:01:18,370
Memantau setiap aktivitas,

1411
01:01:18,413 --> 01:01:22,026
percakapan,
pengenalan wajah.

1412
01:01:22,069 --> 01:01:26,378
Yang saya khawatirkan adalah,
eh, alat ini bisa diperluas,

1413
01:01:26,421 --> 01:01:28,554
eh, suatu bentuk totalitarianisme

1414
01:01:28,597 --> 01:01:31,035
itu hemat biaya
dan permanen.

1415
01:01:32,950 --> 01:01:35,300
TRISTAN HARRIS: Jadi sebagai tanggapannya
untuk itu, beberapa orang lain berkata,

1416
01:01:35,343 --> 01:01:37,128
"Tidak, tidak, tidak, kita harus melakukannya
sebenarnya biarkan ini robek.

1417
01:01:37,171 --> 01:01:39,391
“Mari kita desentralisasikan kekuasaan ini
sebanyak mungkin.

1418
01:01:39,434 --> 01:01:41,567
"Mari kita biarkan setiap bisnis,
setiap individu,

1419
01:01:41,610 --> 01:01:43,917
"setiap anak berusia 16 tahun,
setiap laboratorium sains,

1420
01:01:43,961 --> 01:01:45,963
lho, dapatkan manfaatnya
model AI terbaru."

1421
01:01:46,006 --> 01:01:48,226
Tapi sekarang kamu punya
setiap kelompok teroris,

1422
01:01:48,269 --> 01:01:51,664
setiap orang yang kehilangan haknya
mempunyai kekuatan untuk membuat

1423
01:01:51,708 --> 01:01:53,797
yang paling buruk
senjata biologis.

1424
01:01:53,840 --> 01:01:55,581
Meretas infrastruktur,
membuat deepfake,

1425
01:01:55,624 --> 01:01:57,452
banjir
lingkungan informasi kita.

1426
01:01:57,496 --> 01:02:00,412
Sehingga menciptakan semua risiko ini
semacam bencana besar

1427
01:02:00,455 --> 01:02:02,893
dan-dan keruntuhan masyarakat
melalui arah itu.

1428
01:02:02,936 --> 01:02:04,677
Jadi kita seperti terjebak
antara batu ini

1429
01:02:04,721 --> 01:02:07,549
dan tempat yang sulit,
antara "kunci itu..."

1430
01:02:07,593 --> 01:02:09,029
[obrolan tidak jelas]

1431
01:02:10,683 --> 01:02:12,293
-...atau "biarkan robek."
-[sirene meraung]

1432
01:02:12,337 --> 01:02:14,208
[orang-orang berteriak]

1433
01:02:14,252 --> 01:02:17,559
Jadi kita harus menemukan sesuatu
seperti jalan sempit

1434
01:02:17,603 --> 01:02:20,388
yang menghindari
dua hasil negatif ini.

1435
01:02:20,432 --> 01:02:22,956
Jadi, jika itu semua benar,
kenapa kita tidak memperlambatnya saja

1436
01:02:23,000 --> 01:02:25,829
dan mencari tahu semua ini
sebelum terlambat?

1437
01:02:25,872 --> 01:02:28,919
Jika umat manusia sangat bijaksana,

1438
01:02:28,962 --> 01:02:31,182
itulah yang akan kami lakukan.

1439
01:02:31,225 --> 01:02:33,097
Tapi sepertinya ada yang berbeda
cara untuk menghadapi hal ini, kan?

1440
01:02:33,140 --> 01:02:35,926
Yaitu:
Apa aturan mainnya?

1441
01:02:35,969 --> 01:02:39,494
Banyak hal yang dilakukan CEO

1442
01:02:39,538 --> 01:02:42,149
didorong oleh
insentif yang mereka hadapi.

1443
01:02:42,193 --> 01:02:45,283
Ini terutama
insentif maksimalisasi keuntungan

1444
01:02:45,326 --> 01:02:47,198
yang sedang mengemudi
pengembangan AI.

1445
01:02:47,241 --> 01:02:50,375
Bahkan orang baik pun terjebak
dalam dilema ini

1446
01:02:50,418 --> 01:02:52,638
jika mereka bergerak terlalu lambat,

1447
01:02:52,681 --> 01:02:54,553
lalu mereka meninggalkan diri mereka sendiri
rentan

1448
01:02:54,596 --> 01:02:57,251
kepada semua pria lainnya
yang mengambil jalan pintas.

1449
01:02:57,295 --> 01:03:01,995
Semua perusahaan top ini ikut serta
perlombaan tanpa batas yang lengkap

1450
01:03:02,039 --> 01:03:05,433
untuk, secepat mungkin, dapatkan
ke AGI, sampai di sana sekarang juga.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
LADIS: Ya, maksudku,
Menurutku, menurutku

1453
01:03:10,395 --> 01:03:12,919
itu mungkin dimulai
dengan DeepMind.

1454
01:03:12,963 --> 01:03:14,791
PEREMPUAN BERITA:
Google membeli

1455
01:03:14,834 --> 01:03:16,357
perusahaan kecerdasan buatan
Teknologi DeepMind.

1456
01:03:16,401 --> 01:03:18,620
Ketentuan kesepakatan
tidak diungkapkan.

1457
01:03:18,664 --> 01:03:20,709
ELON MUSK: Larry Page dan saya
dulunya adalah teman yang sangat dekat,

1458
01:03:20,753 --> 01:03:22,711
dan itu menjadi jelas bagi saya

1459
01:03:22,755 --> 01:03:26,411
bahwa Larry tidak peduli
tentang keamanan AI.

1460
01:03:26,454 --> 01:03:28,892
EMILY CHANG: Elon Musk berkata
Anda memulai OpenAI,

1461
01:03:28,935 --> 01:03:30,981
Anda berdua memulai OpenAI karena
dia takut pada Google.

1462
01:03:31,024 --> 01:03:32,156
LADISH: Kamu-kamu pada dasarnya
memiliki dasar

1463
01:03:32,199 --> 01:03:33,722
OpenAI keluar dari situ.

1464
01:03:33,766 --> 01:03:35,202
“Jadi kami akan melakukannya dengan lebih baik.
Kami akan melakukannya

1465
01:03:35,246 --> 01:03:36,813
dengan cara yang lebih aman
atau dengan cara yang lebih terbuka."

1466
01:03:38,466 --> 01:03:40,555
Jadi itulah yang memulai OpenAI.

1467
01:03:40,599 --> 01:03:42,731
Dan sekarang, sebagai gantinya
memiliki satu proyek AGI,

1468
01:03:42,775 --> 01:03:44,821
Anda memiliki dua proyek AGI.

1469
01:03:44,864 --> 01:03:46,910
Hal terburuk yang mungkin terjadi
itu bisa saja terjadi

1470
01:03:46,953 --> 01:03:49,608
adalah jika ada
beberapa proyek AGI

1471
01:03:49,651 --> 01:03:51,871
dilakukan oleh orang yang berbeda
yang tidak saling menyukai

1472
01:03:51,915 --> 01:03:54,787
dan semuanya bersaing
untuk sampai ke AGI terlebih dahulu.

1473
01:03:54,831 --> 01:03:56,963
Ini akan menjadi yang terburuk
hal yang mungkin terjadi,

1474
01:03:57,007 --> 01:04:00,097
karena ini berarti
bahwa siapa pun yang paling tidak aman,

1475
01:04:00,140 --> 01:04:03,143
siapa pun yang paling banyak berkorban
tentang keselamatan untuk maju

1476
01:04:03,187 --> 01:04:05,145
akan menjadi orangnya
yang sampai di sana lebih dulu.

1477
01:04:05,189 --> 01:04:07,844
-DANIEL: Itu pada dasarnya
apa yang terjadi, kan? -Ya.

1478
01:04:07,887 --> 01:04:11,325
Kamu dan saudaramu
terkenal meninggalkan OpenAI, eh,

1479
01:04:11,369 --> 01:04:12,936
untuk memulai Antropik.

1480
01:04:12,979 --> 01:04:15,068
RASKIN: Lalu Antropik
dimulai karena

1481
01:04:15,112 --> 01:04:17,854
beberapa peneliti
di dalam OpenAI berkata,

1482
01:04:17,897 --> 01:04:20,508
"Aku ingin pergi
dan melakukannya dengan lebih aman."

1483
01:04:20,552 --> 01:04:23,511
Anda membutuhkan sesuatu sebagai tambahan
untuk sekadar meningkatkan model,

1484
01:04:23,555 --> 01:04:25,818
yaitu keselarasan atau keselamatan.

1485
01:04:25,862 --> 01:04:27,428
HENDRYCKS:
“Kami lebih bertanggung jawab

1486
01:04:27,472 --> 01:04:29,648
atau lebih dapat dipercaya
atau lebih bermoral."

1487
01:04:29,691 --> 01:04:31,519
Sekarang Anda memiliki tiga proyek AGI.

1488
01:04:31,563 --> 01:04:33,043
Tapi juga duduk-duduk
meja bersamamu

1489
01:04:33,086 --> 01:04:34,827
akan menjadi sekelompok AI.

1490
01:04:34,871 --> 01:04:37,525
LADISH: Dan sekarang Meta adalah-adalah
mencoba melakukan sesuatu.

1491
01:04:37,569 --> 01:04:39,571
Sedangkan buatan baru
pesaing intelijen

1492
01:04:39,614 --> 01:04:41,573
diumumkan minggu ini,
milik Elon Musk...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS: xAI, yang mana
organisasi Elon Musk.

1494
01:04:44,663 --> 01:04:46,230
MAS:
Saya tidak mempercayai OpenAI.

1495
01:04:46,273 --> 01:04:47,884
Pertarungan antara
Elon Musk dan OpenAI

1496
01:04:47,927 --> 01:04:49,581
telah memasuki babak baru.

1497
01:04:49,624 --> 01:04:51,713
Saya tidak percaya Sam Altman,
eh, dan aku, dan menurutku tidak

1498
01:04:51,757 --> 01:04:54,194
kami ingin mendapatkan hasil maksimal
AI yang paling kuat di dunia

1499
01:04:54,238 --> 01:04:56,414
dikendalikan oleh seseorang
siapa yang tidak dapat dipercaya.

1500
01:04:56,457 --> 01:04:58,416
[bersorak dan tepuk tangan]

1501
01:04:58,459 --> 01:05:01,593
Insentifnya adalah
jumlah uang yang tak terhitung.

1502
01:05:01,636 --> 01:05:03,377
-Ya.
-Apakah kekuatan yang tak terhitung.

1503
01:05:03,421 --> 01:05:05,553
-Ya.
-Apakah kendali yang tak terhitung.

1504
01:05:05,597 --> 01:05:08,034
Jika Anda memiliki sesuatu
itu satu juta kali lebih pintar

1505
01:05:08,078 --> 01:05:11,385
dan lebih mampu dari
segala sesuatu yang lain di planet Bumi

1506
01:05:11,429 --> 01:05:14,171
dan tidak ada orang lain yang memilikinya,

1507
01:05:14,214 --> 01:05:15,955
hal itu adalah insentif.

1508
01:05:15,999 --> 01:05:17,261
Jadi, Anda menguasai dunia.

1509
01:05:18,610 --> 01:05:20,394
Jika Anda benar-benar percaya ini,

1510
01:05:20,438 --> 01:05:22,744
jika kamu benar-benar ada di hatimu
percaya ini,

1511
01:05:22,788 --> 01:05:24,181
maka kamu mungkin saja
bersedia mengambil

1512
01:05:24,224 --> 01:05:26,096
risiko yang cukup besar
untuk mewujudkannya.

1513
01:05:26,139 --> 01:05:28,881
Google baru saja merilis
model AI terbarunya.

1514
01:05:28,925 --> 01:05:31,231
Jawaban untuk ChatGPT OpenAI.

1515
01:05:31,275 --> 01:05:33,059
Bagaimana kita bisa mencapainya
sepuluh triliun ini?

1516
01:05:33,103 --> 01:05:35,192
Apakah NVIDIA menjadi yang terbaik
perusahaan berharga di AS?

1517
01:05:35,235 --> 01:05:38,978
Ini adalah bisnis terbesar
peluang dalam sejarah.

1518
01:05:39,022 --> 01:05:40,501
Dalam sejarah.

1519
01:05:40,545 --> 01:05:42,242
Jadi, alasannya
semua orang sangat bersemangat

1520
01:05:42,286 --> 01:05:44,679
tentang kecerdasan buatan
sekarang

1521
01:05:44,723 --> 01:05:48,031
adalah karena
semakin banyak perusahaan-perusahaan ini hype

1522
01:05:48,074 --> 01:05:50,033
potensi kemampuan yang ada
teknologi mereka,

1523
01:05:50,076 --> 01:05:53,210
semakin banyak investasi
mereka bisa menarik.

1524
01:05:53,253 --> 01:05:54,733
CARL QUINTANILLA:
Amazon berinvestasi hingga

1525
01:05:54,776 --> 01:05:56,996
empat miliar dolar
di start-up Antropik.

1526
01:05:57,040 --> 01:05:58,693
OpenAI sedang mengatur pandangannya

1527
01:05:58,737 --> 01:06:00,739
pada setengah blockbuster
penilaian satu triliun dolar.

1528
01:06:00,782 --> 01:06:02,001
Setengah triliun!

1529
01:06:02,045 --> 01:06:03,220
Perlombaan sedang berlangsung.

1530
01:06:03,263 --> 01:06:04,612
Ini sedang terjadi
lebih cepat dari sebelumnya.

1531
01:06:04,656 --> 01:06:06,614
Apakah kita berada dalam gelembung AI?
Tentu saja.

1532
01:06:06,658 --> 01:06:09,182
Aku hanya tidak mengerti
gelembung itu pecah

1533
01:06:09,226 --> 01:06:12,446
selagi kamu masih punya
siklus pengeluaran besar ini.

1534
01:06:12,490 --> 01:06:15,014
RASKIN: Bahkan jika Anda berpikir
ini semua hanya sensasi,

1535
01:06:15,058 --> 01:06:17,582
ada miliaran
hingga triliunan dolar

1536
01:06:17,625 --> 01:06:21,107
mengalir ke dalam pembuatan sistem AI
lebih kuat.

1537
01:06:21,151 --> 01:06:23,849
Dan begitu Anda memiliki benda itu
itu lebih kuat,

1538
01:06:23,892 --> 01:06:25,546
perusahaan dapat menggunakannya

1539
01:06:25,590 --> 01:06:27,548
untuk mendapatkan keuntungan yang lebih besar
dan untuk menghasilkan lebih banyak uang.

1540
01:06:27,592 --> 01:06:30,116
Negara-negara bisa memanfaatkannya
untuk membuat militer lebih kuat.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA telah menyusul
Microsoft dan Apple

1542
01:06:32,858 --> 01:06:36,253
untuk menjadi milik dunia
perusahaan paling berharga.

1543
01:06:36,296 --> 01:06:38,995
Perlombaan untuk menyebarkan menjadi
perlombaan menuju kecerobohan,

1544
01:06:39,038 --> 01:06:41,780
karena mereka tidak bisa
menyebarkannya secepat itu

1545
01:06:41,823 --> 01:06:43,173
dan juga melakukannya dengan benar.

1546
01:06:43,216 --> 01:06:46,045
Mereka percaya itu
mereka orang baik.

1547
01:06:46,089 --> 01:06:49,309
"Dan jika aku tidak melakukannya,
seseorang yang tidak memiliki

1548
01:06:49,353 --> 01:06:51,572
"Nilai yang sama baiknya denganku
akan duduk di meja

1549
01:06:51,616 --> 01:06:54,445
untuk mengambil keputusan, jadi
Saya mempunyai kewajiban untuk melakukannya."

1550
01:06:54,488 --> 01:06:56,186
Ya, ini
sebuah kepercayaan yang sangat umum dianut.

1551
01:06:56,229 --> 01:06:58,579
Banyak, banyak, banyak,
mungkin sebagian besar orang

1552
01:06:58,623 --> 01:07:00,712
membangun teknologi ini
percaya itu.

1553
01:07:00,755 --> 01:07:03,715
aku khawatir
kompetisi komersial,

1554
01:07:03,758 --> 01:07:05,847
tapi ternyata
Aku bahkan lebih khawatir

1555
01:07:05,891 --> 01:07:08,024
persaingan geopolitik.

1556
01:07:08,067 --> 01:07:10,330
Kami tertinggal delapan tahun
setahun yang lalu.

1557
01:07:10,374 --> 01:07:12,593
Sekarang kita mungkin
tertinggal kurang dari satu tahun.

1558
01:07:12,637 --> 01:07:15,683
Ya, keduanya Arab Saudi
dan UEA sedang berlomba

1559
01:07:15,727 --> 01:07:18,121
untuk mendirikan pusat data
dan memposisikan diri mereka

1560
01:07:18,164 --> 01:07:20,384
sebagai kekuatan dominan dalam AI...

1561
01:07:20,427 --> 01:07:22,429
...untuk membuat Korea Selatan
pemimpin AI global.

1562
01:07:22,473 --> 01:07:23,996
JULIA SIEGER:
Presiden Perancis Emmanuel Macron

1563
01:07:24,040 --> 01:07:25,867
berbicara banyak tentang
kecerdasan buatan...

1564
01:07:25,911 --> 01:07:27,434
Sekarang dengan lebih banyak lagi mengenai peran Israel

1565
01:07:27,478 --> 01:07:29,610
dalam kecerdasan buatan
revolusi...

1566
01:07:29,654 --> 01:07:33,092
Negara-negara akan bersaing
untuk teknologi AI siapa

1567
01:07:33,136 --> 01:07:34,876
menciptakan generasi penerus
industri.

1568
01:07:34,920 --> 01:07:38,010
Pihak Tiongkok bersikeras
AI itu,

1569
01:07:38,054 --> 01:07:39,838
seperti yang sedang dikembangkan di Tiongkok,

1570
01:07:39,881 --> 01:07:41,709
memperkuat nilai-nilai inti

1571
01:07:41,753 --> 01:07:44,016
dari Partai Komunis Tiongkok
dan sistem Tiongkok.

1572
01:07:44,060 --> 01:07:48,716
Amerika harus mengalahkan Tiongkok
dalam perlombaan AI.

1573
01:07:48,760 --> 01:07:51,023
DANIEL: China, seperti,
tertinggal beberapa tahun cahaya.

1574
01:07:51,067 --> 01:07:52,677
Apakah mereka?

1575
01:07:52,720 --> 01:07:54,983
Maksudku, mereka punya lebih banyak
data pelatihan daripada yang kami lakukan,

1576
01:07:55,027 --> 01:07:57,812
dan tidak ada yang mengatakan mereka
jangan menjatuhkan model bulan depan

1577
01:07:57,856 --> 01:08:00,946
itu bukan--
tidak jauh mengungguli GPT-4.

1578
01:08:00,989 --> 01:08:03,818
Semuanya berjalan baik-baik saja.
Apa yang salah?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [berbicara bahasa Cina]
-Pencarian Dalam... -Pencarian Dalam...

1580
01:08:06,734 --> 01:08:08,040
Ada model baru.

1581
01:08:08,084 --> 01:08:10,825
Tapi dari laboratorium Tiongkok
disebut DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
Mari kita bicara tentang DeepSeek,
karena itu sangat mengejutkan,

1583
01:08:14,002 --> 01:08:17,658
dan itu mengguncang ini
seluruh industri hingga ke intinya.

1584
01:08:17,702 --> 01:08:19,399
Pemerintahan Trump
akan memastikan

1585
01:08:19,443 --> 01:08:23,055
itu yang paling kuat
Sistem AI dibangun di AS

1586
01:08:23,099 --> 01:08:26,537
dengan desain Amerika
dan chip yang diproduksi.

1587
01:08:26,580 --> 01:08:28,800
AI adalah milik Tiongkok
Proyek Apollo.

1588
01:08:28,843 --> 01:08:30,193
Partai Komunis Tiongkok

1589
01:08:30,236 --> 01:08:31,542
sangat memahami potensinya

1590
01:08:31,585 --> 01:08:32,891
bagi AI untuk mengganggu peperangan.

1591
01:08:32,934 --> 01:08:35,328
Google tidak lagi menjanjikan
bahwa hal itu tidak akan terjadi

1592
01:08:35,372 --> 01:08:38,418
menggunakan kecerdasan buatan
untuk senjata atau pengawasan.

1593
01:08:38,462 --> 01:08:40,028
Cina, Korea Utara, Rusia

1594
01:08:40,072 --> 01:08:41,900
akan terus membangunnya
secepat mungkin

1595
01:08:41,943 --> 01:08:44,511
untuk mendapatkan keuntungan ekonomi yang lebih besar,
lebih banyak keuntungan produktivitas,

1596
01:08:44,555 --> 01:08:46,818
keuntungan yang lebih ilmiah,
lebih banyak keuntungan militer,

1597
01:08:46,861 --> 01:08:48,646
karena AI membuat senjata yang lebih baik.

1598
01:08:48,689 --> 01:08:51,736
Jika Anda berbicara tentang
suatu sistem yang luas dan mampu

1599
01:08:51,779 --> 01:08:53,303
sebagai ilmuwan yang brilian,

1600
01:08:53,346 --> 01:08:57,959
itu mungkin bisa berjalan
kampanye militer

1601
01:08:58,003 --> 01:09:01,441
lebih baik dari jenderal mana pun
di pemerintahan AS saat ini.

1602
01:09:01,485 --> 01:09:05,489
Taiwan adalah penyebab masalah ini
ketegangan terbesar saat ini

1603
01:09:05,532 --> 01:09:07,882
antara Beijing dan AS.

1604
01:09:07,926 --> 01:09:10,450
Ada langsung
perselisihan oposisi

1605
01:09:10,494 --> 01:09:11,973
antara AS dan Tiongkok

1606
01:09:12,017 --> 01:09:13,975
tentang apakah Taiwan adalah
bagian dari Tiongkok.

1607
01:09:14,019 --> 01:09:18,415
MATENY: Taiwan penting
karena banyak alasan.

1608
01:09:18,458 --> 01:09:20,547
Itu juga merupakan rumah dari

1609
01:09:20,591 --> 01:09:24,160
sekitar 90% chip canggih
manufaktur bagi dunia,

1610
01:09:24,203 --> 01:09:28,381
yang berarti pasokan
rantai untuk komputasi tingkat lanjut

1611
01:09:28,425 --> 01:09:31,036
beresiko jika ada

1612
01:09:31,079 --> 01:09:32,951
semacam skenario
sekitar Taiwan,

1613
01:09:32,994 --> 01:09:37,999
apakah itu blokade
atau invasi oleh Tiongkok.

1614
01:09:38,043 --> 01:09:40,698
HENDRYCKS:
Apakah kita akan mengikuti perlombaan

1615
01:09:40,741 --> 01:09:45,616
antara AS dan Tiongkok
yang akhirnya berpindah ke

1616
01:09:45,659 --> 01:09:49,359
perlombaan senjata AI yang dimiliterisasi dan,
Anda tahu, berpotensi mengarah

1617
01:09:49,402 --> 01:09:51,274
terhadap konflik kekuatan besar?

1618
01:09:51,317 --> 01:09:53,014
NICK SCHIFRIN: Yang keluar
komandan tertinggi militer AS

1619
01:09:53,058 --> 01:09:55,843
di wilayah tersebut
prediksi perang akan datang.

1620
01:09:55,887 --> 01:09:57,932
Saya pikir ancamannya nyata
selama dekade ini,

1621
01:09:57,976 --> 01:09:59,456
nyatanya, dalam enam tahun ke depan.

1622
01:09:59,499 --> 01:10:01,414
MATEMATIKA:
Um, salah satu skenarionya

1623
01:10:01,458 --> 01:10:05,853
yang saya khawatirkan adalah
perang cyber flash,

1624
01:10:05,897 --> 01:10:10,902
um, satu di mana
alat siber yang bersifat otonom

1625
01:10:10,945 --> 01:10:12,947
sedang bersaing satu sama lain

1626
01:10:12,991 --> 01:10:14,601
dengan cara yang bersifat eskalasi

1627
01:10:14,645 --> 01:10:16,386
tanpa
kendali manusia yang berarti.

1628
01:10:18,823 --> 01:10:20,433
HARARI:
Anda tinggal di zona perang,

1629
01:10:20,477 --> 01:10:23,784
itu akan menjadi keputusan AI
apakah akan mengebom rumahmu

1630
01:10:23,828 --> 01:10:25,743
dan apakah akan membunuhmu.

1631
01:10:25,786 --> 01:10:27,527
Biarkan mesin memutuskan.

1632
01:10:27,571 --> 01:10:29,355
Itulah godaannya.

1633
01:10:29,399 --> 01:10:32,576
Itu sebabnya AI sangat menggoda
untuk diadopsi oleh militer,

1634
01:10:32,619 --> 01:10:35,753
untuk membuat senjata otonom,
karena jika aku mulai percaya

1635
01:10:35,796 --> 01:10:39,147
itu musuh militerku
akan mengadopsi AI,

1636
01:10:39,191 --> 01:10:41,802
ini akan menjadi perlombaan untuk siapa yang bisa
tarik pelatuknya lebih cepat.

1637
01:10:41,846 --> 01:10:44,892
Dan yang mengotomatiskan
keputusan itu,

1638
01:10:44,936 --> 01:10:47,199
daripada memiliki
manusia dalam lingkaran,

1639
01:10:47,243 --> 01:10:49,201
adalah satu-satunya
yang akan memenangkan perang itu.

1640
01:10:49,245 --> 01:10:50,637
Dan jika Anda memikirkannya

1641
01:10:50,681 --> 01:10:53,074
perlombaan senjata nuklir
pada tahun 1940an...

1642
01:10:54,554 --> 01:10:56,556
...Anda tahu orang Jerman
sedang mengerjakan bom,

1643
01:10:56,600 --> 01:11:00,734
jadi tidak mudah untuk mengatakannya
Robert Oppenheimer kemudian,

1644
01:11:00,778 --> 01:11:03,781
"Uh, k-kamu tahu, pelan-pelan saja."

1645
01:11:03,824 --> 01:11:05,304
Jadi setelah menonton film ini,
itu akan membingungkan,

1646
01:11:05,348 --> 01:11:06,653
karena kamu akan kembali,

1647
01:11:06,697 --> 01:11:08,307
dan besok
Anda akan menggunakan ChatGPT,

1648
01:11:08,351 --> 01:11:10,440
dan itu akan terjadi
sangat membantu.

1649
01:11:10,483 --> 01:11:12,703
Dan saya akan menggunakannya juga, dan
itu akan sangat membantu.

1650
01:11:12,746 --> 01:11:16,141
Dan Anda akan berkata, "Tunggu, jadi
Saya baru saja melihat film tentang AI ini

1651
01:11:16,184 --> 01:11:18,012
"dan risiko eksistensial
dan semua hal ini,

1652
01:11:18,056 --> 01:11:20,624
dan di mana ancamannya lagi?"

1653
01:11:20,667 --> 01:11:24,715
Dan bukan itu ChatGPT
ancaman eksistensial.

1654
01:11:24,758 --> 01:11:28,675
Ini adalah perlombaan untuk diterapkan
yang paling kuat,

1655
01:11:28,719 --> 01:11:31,635
tidak bisa dipahami,
teknologi yang tidak terkendali,

1656
01:11:31,678 --> 01:11:35,116
di bawah yang terburuk
insentif mungkin,

1657
01:11:35,160 --> 01:11:37,031
itulah ancaman eksistensial.

1658
01:11:38,119 --> 01:11:40,383
DANIEL:
Tapi menurutku itu-itu

1659
01:11:40,426 --> 01:11:43,211
kita berada dalam konteks perlombaan.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER: Ya.
-Dan itu dalam persaingan,

1661
01:11:45,953 --> 01:11:47,651
"harus sampai ke sana dulu,
harus memenangkan perlombaan" pengaturan,

1662
01:11:47,694 --> 01:11:49,000
"harus bersaing dengan Tiongkok,

1663
01:11:49,043 --> 01:11:50,349
harus bersaing
laboratorium lainnya."

1664
01:11:50,393 --> 01:11:51,829
Benar kan?

1665
01:11:51,872 --> 01:11:53,657
Hari ini adalah kasusnya.

1666
01:11:53,700 --> 01:11:56,703
Jadi kita perlu berubah
dinamika balapan itu.

1667
01:11:57,922 --> 01:11:59,924
Bukankah begitu?

1668
01:11:59,967 --> 01:12:02,187
Saya pikir itu akan terjadi
memang sangat bagus.

1669
01:12:03,710 --> 01:12:06,496
A-aku rasa
ada semacam...

1670
01:12:06,539 --> 01:12:09,542
mistisisme seputar AI
itu membuatnya terasa seperti itu

1671
01:12:09,586 --> 01:12:11,718
itu jatuh dari langit.

1672
01:12:11,762 --> 01:12:13,459
DANIEL: Memikirkan hal ini
sebagai teknologi yang bagaikan dewa

1673
01:12:13,503 --> 01:12:15,418
adalah sebuah masalah.

1674
01:12:15,461 --> 01:12:16,897
Ya.

1675
01:12:18,072 --> 01:12:19,900
Mengapa?

1676
01:12:19,944 --> 01:12:22,990
Ini memberi lisensi
kepada perusahaan untuk...

1677
01:12:23,034 --> 01:12:26,254
[tertawa]
tidak bertanggung jawab

1678
01:12:26,298 --> 01:12:30,781
untuk hal-hal yang perangkat lunak
yang mereka bangun memang demikian.

1679
01:12:30,824 --> 01:12:35,089
Jika orang membuat hubungan itu,

1680
01:12:35,133 --> 01:12:37,527
mungkin itu akan, seperti,
bantu mereka memahaminya kembali

1681
01:12:37,570 --> 01:12:41,835
dinamika
semua uang dan kekuasaan dan...

1682
01:12:41,879 --> 01:12:45,317
kekacauan yang terjadi pada...

1683
01:12:45,361 --> 01:12:47,101
menciptakan teknologi ini.

1684
01:12:47,145 --> 01:12:49,234
Ini seperti lima orang
siapa yang mengendalikannya, kan?

1685
01:12:49,277 --> 01:12:51,628
-Seperti, lima pria?
-Pada dasarnya, ya.

1686
01:12:51,671 --> 01:12:53,847
-Para CEO?
-Ya.

1687
01:12:53,891 --> 01:12:55,371
Oke.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
DANIEL:
Terkadang rasanya seperti itu

1690
01:13:03,117 --> 01:13:07,252
Saya sudah melakukan ini
hanya, seperti, perjalanan tanpa akhir

1691
01:13:07,295 --> 01:13:09,341
mencoba memahami hal ini.

1692
01:13:09,385 --> 01:13:12,388
Anda tahu, seperti
aku sedang mendaki gunung...

1693
01:13:15,608 --> 01:13:19,133
...dan setiap saat
Saya, seperti, naik ke atas bukit,

1694
01:13:19,177 --> 01:13:20,744
Saya pikir saya telah mencapai puncak,

1695
01:13:20,787 --> 01:13:23,399
tapi itu terus berjalan
dan pergi dan pergi.

1696
01:13:23,442 --> 01:13:24,530
[kamera berbunyi klik, mendesing]

1697
01:13:24,574 --> 01:13:26,967
Tapi dari semua yang kudengar,

1698
01:13:27,011 --> 01:13:30,362
jika aku harus menebak apa itu
di puncak Gunung Kecemasan,

1699
01:13:30,406 --> 01:13:34,192
itu lima CEO ini
dari lima perusahaan ini,

1700
01:13:34,235 --> 01:13:37,630
yang seperti itu
Oppenheimer saat ini.

1701
01:13:37,674 --> 01:13:39,458
Inilah orang-orangnya
siapa yang membangun benda ini.

1702
01:13:39,502 --> 01:13:40,807
Ya.

1703
01:13:40,851 --> 01:13:44,158
Seperti, apakah ada rencana?

1704
01:13:44,202 --> 01:13:46,422
Pimpinan perusahaan
itu membuat ChatGPT

1705
01:13:46,465 --> 01:13:49,947
memperingatkan kemungkinan
kerugian besar bagi dunia.

1706
01:13:49,990 --> 01:13:52,384
Menurut saya, jika teknologi ini
salah,

1707
01:13:52,428 --> 01:13:53,472
itu bisa menjadi sangat salah.

1708
01:13:53,516 --> 01:13:55,779
[semburan obrolan yang berbeda]

1709
01:13:55,822 --> 01:13:57,781
DANIEL:
Lima pria.

1710
01:13:57,824 --> 01:14:01,567
A-aku tidak pernah memikirkan kita
sebagai perusahaan media sosial.

1711
01:14:01,611 --> 01:14:06,050
I-Rasanya aku harus mencobanya
dan-dan temukan orang-orang ini...

1712
01:14:06,093 --> 01:14:07,181
Mm-hmm.

1713
01:14:07,225 --> 01:14:09,009
...dan menampilkannya di film.

1714
01:14:10,315 --> 01:14:12,622
Tentu saja kita akan mendapatkannya
beberapa kejelasan dari itu.

1715
01:14:13,666 --> 01:14:14,928
[kamera berbunyi klik, mendesing]

1716
01:14:16,582 --> 01:14:19,150
Maksudku, tanggung jawab itu harus dihentikan
suatu tempat, kan?

1717
01:14:19,193 --> 01:14:21,152
[angin bersiul]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[alat berputar dan mengklik]

1720
01:14:27,071 --> 01:14:29,116
[berdesing]

1721
01:14:34,034 --> 01:14:35,296
DANIEL:
Bagaimana rasanya?

1722
01:14:35,340 --> 01:14:37,690
-Besar.
-Tidak apa-apa?

1723
01:14:37,734 --> 01:14:39,431
-Ya.
-[obrolan kru tidak jelas]

1724
01:14:39,475 --> 01:14:40,998
-Bisakah saya memajukan kursinya?
-DANIEL: Ya, Anda bisa.

1725
01:14:41,041 --> 01:14:42,173
Itu, eh, hanya saja
agak canggung.

1726
01:14:42,216 --> 01:14:43,566
aku sedikit, seperti...

1727
01:14:43,609 --> 01:14:45,045
Dario, bagaimana perasaanmu
tentang kursi itu?

1728
01:14:45,089 --> 01:14:47,004
Um, ya, kursinya bagus.

1729
01:14:47,047 --> 01:14:48,832
-Aku hanya ingin memindahkannya
sedikit ke depan. -Oke.

1730
01:14:48,875 --> 01:14:50,529
Aku memilih kursi itu.

1731
01:14:50,573 --> 01:14:52,139
-Ini kursi yang bagus.
-Terima kasih.

1732
01:14:52,183 --> 01:14:53,619
[ponsel berdering]

1733
01:14:57,884 --> 01:14:59,495
TED:
Dan duduk saja di sana.

1734
01:15:01,409 --> 01:15:03,063
Lalu lewat sini,

1735
01:15:03,107 --> 01:15:04,369
kita akan saling memandang
melalui kaca ini.

1736
01:15:04,412 --> 01:15:06,458
[sinyal sibuk berbunyi bip]

1737
01:15:11,419 --> 01:15:13,552
Dan duduk kembali di kursi,
condong ke depan?

1738
01:15:13,596 --> 01:15:15,119
-DANIEL: Ya. Ya, terserah
nyaman, menurutku. -Oke.

1739
01:15:15,162 --> 01:15:16,686
Agak keren.
Ada banyak cermin.

1740
01:15:16,729 --> 01:15:17,817
-Apakah itu-- oke.
-WANITA: Sam A., ambil satu. Tanda.

1741
01:15:17,861 --> 01:15:19,515
-Bagaimana?
-Bagus. Terima kasih.

1742
01:15:19,558 --> 01:15:21,038
DANIEL: Asal usulnya
dari proyek ini adalah saya

1743
01:15:21,081 --> 01:15:22,822
duduk di rumah,
dan aku sedang bermain-main dengan,

1744
01:15:22,866 --> 01:15:24,389
Saya pikir, generator gambar Anda,

1745
01:15:24,432 --> 01:15:27,261
dan aku secara bersamaan,
eh, ketakutan

1746
01:15:27,305 --> 01:15:29,437
-dan sangat terkesan.
-[terkekeh pelan]

1747
01:15:29,481 --> 01:15:31,875
-Itu adalah kombinasi yang biasa.
-Dan kemudian potong menjadi

1748
01:15:31,918 --> 01:15:34,617
saya dan istri mencari tahu
kami mengharapkannya.

1749
01:15:34,660 --> 01:15:38,272
Dan-dan aku, seperti, mengalaminya
krisis eksistensial

1750
01:15:38,316 --> 01:15:40,231
seperti istriku
hamil enam bulan.

1751
01:15:40,274 --> 01:15:42,929
Dan saya pikir pertanyaan pertama saya,
yang saya tanyakan kepada semua orang:

1752
01:15:42,973 --> 01:15:45,453
Sekarang adalah waktu yang buruk
untuk punya anak?

1753
01:15:45,497 --> 01:15:47,368
Apakah aku melakukan kesalahan besar?

1754
01:15:47,412 --> 01:15:49,022
Saya mengharapkan seorang anak
di bulan Maret juga. Yang pertama saya.

1755
01:15:49,066 --> 01:15:50,502
-Kau mengharapkan seorang anak?
-Ya.

1756
01:15:50,546 --> 01:15:51,808
-Anda mengharapkan pada bulan Maret?
-Anak pertama.

1757
01:15:51,851 --> 01:15:53,287
-Mazel tov.
-Terima kasih banyak.

1758
01:15:53,331 --> 01:15:54,462
Aku belum pernah begitu bersemangat
untuk apa pun.

1759
01:15:54,506 --> 01:15:56,464
-Itulah yang aku rasakan.
-Ya.

1760
01:15:56,508 --> 01:15:58,205
Tapi kamu tidak takut?

1761
01:15:58,249 --> 01:16:02,732
Maksudku, punya anak itu
hanya hal penting ini

1762
01:16:02,775 --> 01:16:04,995
bahwa aku, kamu tahu,
Saya begadang setiap malam, seperti,

1763
01:16:05,038 --> 01:16:06,823
membaca buku-buku ini tentang
cara membesarkan anak,

1764
01:16:06,866 --> 01:16:08,215
dan saya harap
Aku akan melakukan pekerjaan dengan baik,

1765
01:16:08,259 --> 01:16:09,260
dan itu terasa
sangat luar biasa dan--

1766
01:16:09,303 --> 01:16:12,045
tapi aku tidak takut...

1767
01:16:12,089 --> 01:16:14,047
agar anak-anak bisa tumbuh dewasa
di dunia dengan AI.

1768
01:16:14,091 --> 01:16:16,310
Seperti, itu... tidak apa-apa.

1769
01:16:16,354 --> 01:16:19,009
Itu bagus untuk didengar
datang dari pria itu.

1770
01:16:19,052 --> 01:16:20,750
Menurutku itu ide yang bagus
untuk memiliki anak.

1771
01:16:20,793 --> 01:16:23,230
A-aku pikir mereka yang paling banyak
hal yang ajaib dan luar biasa.

1772
01:16:23,274 --> 01:16:25,276
-[menghela nafas berat]
-Ada begitu banyak ketidakpastian,

1773
01:16:25,319 --> 01:16:26,843
Saya hampir saja melakukannya
apa yang akan kamu lakukan.

1774
01:16:26,886 --> 01:16:28,932
Saya tahu itu tidak benar
jawaban yang sangat memuaskan,

1775
01:16:28,975 --> 01:16:31,891
tapi itu satu-satunya
saya bisa memikirkannya.

1776
01:16:31,935 --> 01:16:34,459
Anak-anak kita tidak akan pernah...

1777
01:16:34,502 --> 01:16:37,070
tahu dunia yang tidak punya
AI yang sangat canggih.

1778
01:16:37,114 --> 01:16:39,856
Faktanya, anak-anak kita tidak akan pernah melakukannya
menjadi lebih pintar dari AI.

1779
01:16:39,899 --> 01:16:42,075
DANIEL: "Anak-anak kita akan melakukannya
tidak pernah lebih pintar dari AI"?

1780
01:16:42,119 --> 01:16:44,338
Nah, dari yang mentah,
dari perspektif IQ mentah,

1781
01:16:44,382 --> 01:16:46,253
mereka tidak akan pernah ada
lebih pintar dari AI.

1782
01:16:46,297 --> 01:16:48,038
Gagasan itu tidak berlaku
sedikit mengganggu ketenanganmu?

1783
01:16:48,081 --> 01:16:51,128
Karena itu membuatku merasa
sedikit mual dengan cara yang aneh.

1784
01:16:51,171 --> 01:16:54,784
Um, itu membuatku gelisah
sedikit.

1785
01:16:54,827 --> 01:16:56,263
Tapi itu adalah kenyataan.

1786
01:16:56,307 --> 01:16:58,265
DANIEL:
Oke, jadi dinamika balapan.

1787
01:16:58,309 --> 01:17:01,007
Kami memiliki banyak orang
yang semuanya sepakat

1788
01:17:01,051 --> 01:17:02,879
bahwa ini menakutkan.

1789
01:17:02,922 --> 01:17:04,750
Berdasarkan timeline itu
banyak orang telah memberiku,

1790
01:17:04,794 --> 01:17:07,013
kita punya waktu antara dua bulan dan
lima tahun untuk memikirkan hal ini.

1791
01:17:07,057 --> 01:17:08,667
-Ya.
-Dan-dan, menurutku,

1792
01:17:08,711 --> 01:17:12,845
pertanyaan terbesar saya adalah:
Mengapa kita tidak bisa berhenti saja?

1793
01:17:14,499 --> 01:17:19,069
Masalahnya dengan, eh, uh,
"hanya berhenti" itu, um,

1794
01:17:19,112 --> 01:17:22,202
ada banyak sekali kelompok sekarang
di seluruh dunia, eh, uh,

1795
01:17:22,246 --> 01:17:25,684
membangun ini, untuk
banyak negara, banyak perusahaan,

1796
01:17:25,728 --> 01:17:28,121
um, semuanya dengan
motivasi yang berbeda.

1797
01:17:28,165 --> 01:17:30,776
Ada beberapa di antaranya
perusahaan-perusahaan ini di bidang ini

1798
01:17:30,820 --> 01:17:33,997
siapa posisi mereka, "Kami ingin
untuk mengembangkan teknologi ini

1799
01:17:34,040 --> 01:17:36,042
benar-benar secepat mungkin."

1800
01:17:36,086 --> 01:17:40,046
Dan bahkan jika kita bisa mengesahkan undang-undang
di AS dan di Eropa,

1801
01:17:40,090 --> 01:17:42,396
kita perlu meyakinkan...

1802
01:17:42,440 --> 01:17:44,964
Xi Jinping dan Vladimir Putin
atau, kamu tahu,

1803
01:17:45,008 --> 01:17:47,445
siapapun ilmiahnya
penasihat ada di pihak mereka.

1804
01:17:47,488 --> 01:17:49,229
Itu akan sangat sulit.

1805
01:17:49,273 --> 01:17:50,927
Saya pikir itu benar

1806
01:17:50,970 --> 01:17:53,581
bahwa jika dua orang
di tempat yang persis sama,

1807
01:17:53,625 --> 01:17:55,888
eh, yang mau ambil
lebih banyak jalan pintas pada keselamatan

1808
01:17:55,932 --> 01:17:58,064
seharusnya semacam itu
"sampai di sana dulu."

1809
01:17:58,108 --> 01:18:01,067
Eh, tapi...

1810
01:18:01,111 --> 01:18:02,939
kami dapat menggunakan keunggulan kami

1811
01:18:02,982 --> 01:18:05,985
untuk menghabiskan lebih banyak waktu
melakukan pengujian keamanan.

1812
01:18:06,029 --> 01:18:07,987
DANIEL:
Dan-dan bagaimana jika Anda kehilangannya?

1813
01:18:08,031 --> 01:18:09,597
Anda menerima telepon
dan kamu mengetahuinya

1814
01:18:09,641 --> 01:18:11,687
bahwa kamu sekarang, katakanlah,
tertinggal enam bulan.

1815
01:18:11,730 --> 01:18:14,254
-A-Apa yang terjadi selanjutnya?
-Tergantung pada siapa kita berada di belakang.

1816
01:18:14,298 --> 01:18:16,822
Jika itu, seperti,
pemerintahan yang bermusuhan,

1817
01:18:16,866 --> 01:18:18,824
itu mungkin sangat buruk.

1818
01:18:18,868 --> 01:18:21,348
Jadi katakanlah Anda menerima telepon
bahwa Tiongkok memiliki,

1819
01:18:21,392 --> 01:18:24,787
memiliki secara rekursif
agen pengembangan diri

1820
01:18:24,830 --> 01:18:27,180
atau sesuatu seperti itu yang kita
harus benar-benar dikhawatirkan.

1821
01:18:27,224 --> 01:18:29,226
Apa yang-- apa-apa yang terjadi?

1822
01:18:30,967 --> 01:18:32,403
eh...

1823
01:18:35,406 --> 01:18:37,234
Kasus itu memerlukan...

1824
01:18:37,277 --> 01:18:40,672
langkah pertama yang akan terjadi
untuk berbicara dengan pemerintah AS.

1825
01:18:40,716 --> 01:18:42,935
Sam, apakah kamu mempercayainya
kemampuan pemerintah dalam menanganinya

1826
01:18:42,979 --> 01:18:44,676
sesuatu seperti ini?

1827
01:18:45,895 --> 01:18:47,766
Ya, sebenarnya.

1828
01:18:47,810 --> 01:18:49,550
Ada hal lain yang tidak saya lakukan
percayakan pada pemerintah untuk menanganinya,

1829
01:18:49,594 --> 01:18:51,161
tapi skenario khusus itu,
Saya pikir mereka akan tahu...

1830
01:18:51,204 --> 01:18:52,771
mereka-mereka-- ya.

1831
01:18:52,815 --> 01:18:54,425
DANIEL: Bila sudah,
seperti, diskusi pribadi

1832
01:18:54,468 --> 01:18:56,383
dengan orang lain yang
jari ada di pelatuk,

1833
01:18:56,427 --> 01:18:59,604
jadi bisa dikatakan, um,
melakukan diskusi pribadi itu

1834
01:18:59,647 --> 01:19:01,301
memenuhi Anda dengan percaya diri

1835
01:19:01,345 --> 01:19:03,347
atau apakah mereka membuatmu,
eh, lebih cemas?

1836
01:19:03,390 --> 01:19:07,090
Dengar, maksudku, aku tahu beberapa
diantaranya lebih baik dari yang lain.

1837
01:19:07,133 --> 01:19:10,136
Um, aku lebih percaya diri
di beberapa dari mereka daripada yang saya miliki

1838
01:19:10,180 --> 01:19:12,356
di tempat lain, Anda tahu,
seperti halnya, seperti halnya dengan orang mana pun.

1839
01:19:12,399 --> 01:19:14,140
Anda tahu,
kamu memikirkan, kamu tahu,

1840
01:19:14,184 --> 01:19:15,838
anak-anak di sekolah menengahmu
kelas atau apalah, kan?

1841
01:19:15,881 --> 01:19:18,275
Anda tahu, beberapa di antaranya adalah,
kamu tahu, sungguh manis.

1842
01:19:18,318 --> 01:19:20,407
Beberapa di antaranya bermaksud baik
tapi tidak begitu efektif.

1843
01:19:20,451 --> 01:19:22,366
Beberapa di antaranya adalah,
kamu tahu, pengganggu.

1844
01:19:22,409 --> 01:19:23,759
Beberapa di antaranya adalah
sungguh orang jahat.

1845
01:19:23,802 --> 01:19:25,673
[gagap]
Kamu-kamu benar-benar seperti itu,

1846
01:19:25,717 --> 01:19:27,066
Anda benar-benar melihat penyebarannya.

1847
01:19:27,110 --> 01:19:28,807
Anda tahu, apakah saya, apakah saya,
apakah saya percaya diri

1848
01:19:28,851 --> 01:19:30,548
bahwa semua orang akan melakukannya
hal yang benar,

1849
01:19:30,591 --> 01:19:32,028
bahwa semuanya akan berhasil?

1850
01:19:32,071 --> 01:19:33,856
Um, tidak, aku tidak.

1851
01:19:33,899 --> 01:19:35,509
Dan tidak ada apa-apa
Saya bisa melakukan hal itu, bukan?

1852
01:19:35,553 --> 01:19:37,773
Anda tahu, semua yang bisa saya lakukan
adalah-adalah dorongan untuk,

1853
01:19:37,816 --> 01:19:39,165
dorong untuk itu, Anda tahu,

1854
01:19:39,209 --> 01:19:40,776
mendorong pemerintah
untuk terlibat.

1855
01:19:40,819 --> 01:19:42,647
Tapi pada akhirnya aku adil
satu orang di sana juga.

1856
01:19:42,690 --> 01:19:44,127
Itu--
itu-itu terserah kita semua

1857
01:19:44,170 --> 01:19:46,042
untuk mendorong pemerintah
untuk terlibat.

1858
01:19:46,085 --> 01:19:48,479
Itu hal nomor satu
itu-itu menurutku perlu kita lakukan

1859
01:19:48,522 --> 01:19:50,916
to-to, Anda tahu, untuk mengatur sesuatu
ke arah yang benar.

1860
01:19:50,960 --> 01:19:52,744
Apa yang membuatku cemas
tentang itu adalah, seperti,

1861
01:19:52,788 --> 01:19:56,182
realitas dasar bahwa
kecepatan teknologi tersebut

1862
01:19:56,226 --> 01:19:58,402
sedang menjamur dan berkembang
bersifat eksponensial,

1863
01:19:58,445 --> 01:20:01,448
dan mekanisme untuk membuat undang-undang
berusia 300 tahun,

1864
01:20:01,492 --> 01:20:02,928
-berlangsung selamanya.
-Ya.

1865
01:20:02,972 --> 01:20:05,104
Um, menurutku
itu akan menjadi pekerjaan yang berat.

1866
01:20:05,148 --> 01:20:06,889
A-aku sangat setuju
bersamamu dalam hal itu.

1867
01:20:06,932 --> 01:20:08,891
DANIEL: Anda tahu,
apa yang sebenarnya saya cari

1868
01:20:08,934 --> 01:20:11,241
adalah-adalah seperti,
"Berikut adalah langkah-langkah yang, seperti,

1869
01:20:11,284 --> 01:20:15,158
"kepala honchos akan pergi
ambil untuk fokus pada keselamatan,

1870
01:20:15,201 --> 01:20:18,117
untuk mengurangi bahaya
dan memaksimalkan janjinya."

1871
01:20:18,161 --> 01:20:20,119
Dan aku tidak,
Saya tidak tahu, saya tidak tahu

1872
01:20:20,163 --> 01:20:21,817
itu ada
jawaban sederhana untuk itu.

1873
01:20:21,860 --> 01:20:23,296
eh...

1874
01:20:25,951 --> 01:20:27,561
Maksudku, ini mungkin benar
terlalu sederhana,

1875
01:20:27,605 --> 01:20:30,173
tapi kamu...

1876
01:20:30,216 --> 01:20:31,957
membuat model baru,

1877
01:20:32,001 --> 01:20:34,786
Anda mempelajari dan mengujinya
dengan sangat hati-hati.

1878
01:20:34,830 --> 01:20:37,223
Anda memadamkannya
ke dunia secara bertahap,

1879
01:20:37,267 --> 01:20:39,530
dan kemudian, semakin banyak,
kamu mengerti

1880
01:20:39,573 --> 01:20:41,227
apakah itu aman atau tidak,
lalu jika ya,

1881
01:20:41,271 --> 01:20:42,707
Anda dapat mengambil langkah selanjutnya.

1882
01:20:44,404 --> 01:20:47,103
Kedengarannya tidak terlalu mencolok
sebagai, seperti, seorang ilmuwan yang brilian

1883
01:20:47,146 --> 01:20:50,454
muncul dengan satu ide dalam a
lab untuk membuat sistem AI, seperti,

1884
01:20:50,497 --> 01:20:53,979
sangat aman dan terkendali
dan yang lainnya,

1885
01:20:54,023 --> 01:20:55,720
tapi itulah yang aku yakini
akan terjadi.

1886
01:20:55,763 --> 01:20:57,287
Seperti, itulah jalannya
Saya pikir ini berhasil.

1887
01:20:57,330 --> 01:20:59,289
Tapi anggap saja
sesuatu yang buruk terjadi,

1888
01:20:59,332 --> 01:21:01,813
seperti seorang model yang lepas
atau menjadi nakal atau semacamnya.

1889
01:21:01,857 --> 01:21:03,467
Apakah ada protokolnya?

1890
01:21:03,510 --> 01:21:05,817
Seperti, secara harfiah,
Saya membayangkan telepon berwarna merah.

1891
01:21:05,861 --> 01:21:07,123
-Ya.
-Maaf karena memikirkan hal ini

1892
01:21:07,166 --> 01:21:08,515
dalam hal film, tapi, seperti...

1893
01:21:08,559 --> 01:21:09,995
Ada protokolnya.

1894
01:21:10,039 --> 01:21:11,475
-Apakah ada telepon merah
di mejamu? -TIDAK.

1895
01:21:11,518 --> 01:21:13,216
[tertawa]:
Apakah ini rahasia?

1896
01:21:13,259 --> 01:21:15,392
Maksudku, eh, tidak, bukan itu,
itu tidak semewah atau sedramatis itu

1897
01:21:15,435 --> 01:21:17,176
seperti yang Anda, seperti, harapkan,
tapi ada, seperti, kamu tahu--

1898
01:21:17,220 --> 01:21:18,874
kami, seperti, sudah memikirkannya
skenario ini,

1899
01:21:18,917 --> 01:21:20,527
dan jika ini terjadi,
kita akan memanggil orang-orang ini

1900
01:21:20,571 --> 01:21:21,964
dalam urutan ini dan lakukan ini

1901
01:21:22,007 --> 01:21:23,443
dan jenis merek
keputusan ini jika, seperti--

1902
01:21:23,487 --> 01:21:26,055
Saya percaya itu
ketika Anda memiliki kesempatan

1903
01:21:26,098 --> 01:21:29,058
untuk melakukan pemikiran Anda sebelumnya
situasi stres terjadi,

1904
01:21:29,101 --> 01:21:30,407
itu hampir selalu
ide yang bagus.

1905
01:21:30,450 --> 01:21:31,756
Dan menuliskannya sangat membantu.

1906
01:21:31,799 --> 01:21:33,279
-Bersiap sangat membantu.
-Ya.

1907
01:21:34,324 --> 01:21:36,021
[menghela napas] Kamu...

1908
01:21:36,065 --> 01:21:38,763
Itu tidak mungkin
agar aku duduk di hadapanmu

1909
01:21:38,806 --> 01:21:41,157
dan-dan memintamu untuk berjanji padaku
bahwa ini akan berjalan dengan baik?

1910
01:21:41,200 --> 01:21:43,855
Itu tidak mungkin.

1911
01:21:43,899 --> 01:21:45,683
Tidak ada jawaban yang mudah,
sayangnya.

1912
01:21:45,726 --> 01:21:48,077
Eh, karena memang seperti itu
teknologi mutakhir,

1913
01:21:48,120 --> 01:21:49,774
um, masih ada
banyak hal yang tidak diketahui.

1914
01:21:49,817 --> 01:21:52,255
Dan menurutku begitu
itu-itu perlu,

1915
01:21:52,298 --> 01:21:55,040
um, uh, kamu tahu, mengerti

1916
01:21:55,084 --> 01:21:58,957
dan-dan karenanya diperlukan
untuk, uh, uh, hati-hati.

1917
01:21:59,001 --> 01:22:00,872
Saya bangun, Anda tahu, setiap hari,

1918
01:22:00,916 --> 01:22:03,440
ini adalah, ini adalah
hal nomor satu yang aku pikirkan.

1919
01:22:03,483 --> 01:22:05,137
Sekarang, lihat, aku manusia,

1920
01:22:05,181 --> 01:22:08,358
dan, Anda tahu, sudah punya
setiap keputusan sempurna?

1921
01:22:08,401 --> 01:22:11,622
Bisakah saya mengatakan motivasi saya
selalu sangat jelas?

1922
01:22:11,665 --> 01:22:13,537
Tentu saja tidak.
Tidak ada yang bisa mengatakan itu.

1923
01:22:13,580 --> 01:22:16,366
Seperti, itu-itu
hanya saja tidak, seperti, kamu tahu--

1924
01:22:16,409 --> 01:22:18,629
itu-itu tidak
bagaimana orang bekerja.

1925
01:22:18,672 --> 01:22:21,023
Itu-sejarah ilmu pengetahuan
cenderung seperti itu,

1926
01:22:21,066 --> 01:22:23,547
baik atau buruk,
jika ada sesuatu yang mungkin untuk dilakukan--

1927
01:22:23,590 --> 01:22:26,985
dan kita sekarang tahu bahwa AI itu mungkin
untuk melakukan-- umat manusia melakukannya.

1928
01:22:27,029 --> 01:22:29,727
Semua ini
itu-itu akan terjadi.

1929
01:22:29,770 --> 01:22:32,295
Ini-kereta ini
tidak akan berhenti.

1930
01:22:32,338 --> 01:22:34,253
Anda tidak bisa melangkah di depannya
kereta dan menghentikannya.

1931
01:22:34,297 --> 01:22:36,255
Kamu hanya akan terjepit.

1932
01:22:36,299 --> 01:22:38,388
ALTMAN:
Maksudku, ini sangat menegangkan.

1933
01:22:39,606 --> 01:22:41,043
Anda tahu, ada, seperti,

1934
01:22:41,086 --> 01:22:42,653
banyak hal
banyak dari kita yang tidak mengetahuinya.

1935
01:22:42,696 --> 01:22:46,352
Menurutku sejarahnya
penemuan ilmiah adalah

1936
01:22:46,396 --> 01:22:48,267
salah satu yang tidak tahu
apa yang tidak kamu ketahui

1937
01:22:48,311 --> 01:22:49,660
dan mencari tahu sambil jalan.

1938
01:22:49,703 --> 01:22:52,968
Eh, tapi, ya, itu adalah...

1939
01:22:53,011 --> 01:22:56,580
ini adalah cara hidup yang penuh tekanan.

1940
01:22:56,623 --> 01:22:58,756
DANIEL: Benar. Sam, terima kasih
sangat banyak untuk melakukan hal ini.

1941
01:22:58,799 --> 01:23:00,497
-Dan lagi, mazel tov.
-Terima kasih. Dan untukmu.

1942
01:23:00,540 --> 01:23:02,673
Terima kasih banyak. Terima kasih teman-teman.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[menghela napas]

1945
01:23:10,986 --> 01:23:13,162
[listrik berderak]

1946
01:23:13,205 --> 01:23:15,599
-[petir retak]
-[mendesing, mendengus]

1947
01:23:42,626 --> 01:23:44,628
-[VCR klik]
- [dering saluran]

1948
01:23:47,848 --> 01:23:49,285
-[klik baris]
-KEVIN ROHER: Halo.

1949
01:23:49,328 --> 01:23:50,547
DANIEL:
Hei, Ayah, apa kabarmu?

1950
01:23:50,590 --> 01:23:51,591
KEVIN:
Bagus. Bagaimana kabarmu?

1951
01:23:51,635 --> 01:23:53,071
Anda bekerja? Lagi sibuk apa?

1952
01:23:53,115 --> 01:23:55,247
DANIEL:
Saya sedang mengerjakan film AI ini.

1953
01:23:55,291 --> 01:23:57,815
KEVIN:
Dan bagaimana kabarnya?

1954
01:23:57,858 --> 01:24:00,426
DANIEL:
Kau tahu, itu... itu sungguh...

1955
01:24:00,470 --> 01:24:02,167
-JOANNE ROHER: Hai sayang.
-DANIEL: Hai, Bu.

1956
01:24:02,211 --> 01:24:03,864
JOANNE: Jadi apa
premis filmnya?

1957
01:24:03,908 --> 01:24:06,519
Apakah ini film dokumenter?
Kev, jangan pakai bumbu lagi.

1958
01:24:06,563 --> 01:24:08,304
Ini sudah dibumbui secara berlebihan.

1959
01:24:08,347 --> 01:24:10,436
Kami sedang membuat ayam sekarang.

1960
01:24:10,480 --> 01:24:12,612
-Apakah itu film dokumenter atau apa...
-DANIEL: Ini tentang--

1961
01:24:12,656 --> 01:24:13,961
tentang film tersebut
akhir dunia.

1962
01:24:14,005 --> 01:24:15,789
Akhir dari dunia akan datang,

1963
01:24:15,833 --> 01:24:17,574
dan kami sedang membuat film
tentang akhir dunia.

1964
01:24:17,617 --> 01:24:19,837
-JOANNE: Benarkah?
-DANIEL: Ya.

1965
01:24:19,880 --> 01:24:21,578
KEVIN: Agak menyedihkan
film, sepertinya.

1966
01:24:21,621 --> 01:24:23,449
JOANNE:
Ya.

1967
01:24:23,493 --> 01:24:28,976
DANIEL: Saya merasa banyak hal,
seperti-- kecemasan yang sangat akut ini.

1968
01:24:29,020 --> 01:24:31,370
JOANNE: Ini sangat menakutkan,
tapi pasti ada--

1969
01:24:31,414 --> 01:24:35,287
Anda tahu, apakah Anda pernah bertemu
beberapa-beberapa orang super pintar

1970
01:24:35,331 --> 01:24:37,768
itu memberi Anda jawaban?

1971
01:24:37,811 --> 01:24:39,465
DANIEL: Itu yang terjadi
membuat frustrasi tentang hal itu.

1972
01:24:39,509 --> 01:24:41,337
Tidak ada yang tahu.

1973
01:24:41,380 --> 01:24:43,904
JOANNE:
Yang bisa saya katakan hanyalah itu

1974
01:24:43,948 --> 01:24:49,867
yang dimiliki setiap generasi
sesuatu yang menakutkan seperti ini.

1975
01:24:49,910 --> 01:24:52,217
KEVIN: Saat saya lahir, memang begitu
Krisis Rudal Kuba.

1976
01:24:52,261 --> 01:24:54,263
[detak jantung stabil]

1977
01:24:54,306 --> 01:24:56,352
Aku hanya takut di sana
akan terjadi perang nuklir.

1978
01:24:56,395 --> 01:24:57,744
JOANNE:
Ya, tapi kami tidak tahu

1979
01:24:57,788 --> 01:24:59,094
apa yang akan mereka lakukan dan...

1980
01:24:59,137 --> 01:25:00,530
KEVIN:
Dan dunia tidak berakhir.

1981
01:25:00,573 --> 01:25:01,618
Semua orang bangun
keesokan paginya,

1982
01:25:01,661 --> 01:25:03,402
dan kami masih melakukan tugas kami.

1983
01:25:03,446 --> 01:25:04,969
DANIEL:
Saya sangat takut,

1984
01:25:05,012 --> 01:25:06,840
terutama di
konteksnya, seperti,

1985
01:25:06,884 --> 01:25:09,147
-kamu tahu, bayinya dan...
-[detak jantung janin berdenyut]

1986
01:25:09,191 --> 01:25:10,540
KEVIN:
Ini akan menjadi kurva pembelajaran.

1987
01:25:10,583 --> 01:25:12,063
JOANNE:
Kamu akan baik-baik saja.

1988
01:25:12,107 --> 01:25:13,064
KEVIN: Anda tidak bisa,
kamu tidak bisa memikirkannya

1989
01:25:13,108 --> 01:25:14,326
apa yang tidak bisa kamu kendalikan, Daniel.

1990
01:25:14,370 --> 01:25:16,154
Ingatlah itu.

1991
01:25:16,198 --> 01:25:17,677
DANIEL [suara pecah]:
Aku sungguh, aku benar-benar merasakannya

1992
01:25:17,721 --> 01:25:19,201
gugup dan takut akan hal itu.

1993
01:25:19,244 --> 01:25:21,028
Ada banyak sekali
yang tidak bisa saya kendalikan.

1994
01:25:21,072 --> 01:25:23,857
KEVIN: Jangan gugup.
Anda tidak bisa membiarkan hal itu mempengaruhi Anda.

1995
01:25:23,901 --> 01:25:26,251
Anda hanya bisa mengontrol
apa yang bisa kamu kendalikan,

1996
01:25:26,295 --> 01:25:27,905
dan hanya itu yang dapat Anda lakukan.

1997
01:25:27,948 --> 01:25:30,603
Anda tidak dapat melakukan lebih dari itu.

1998
01:25:30,647 --> 01:25:32,649
Tuliskan itu di buku Anda.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[detak jantung janin berdenyut]

2001
01:25:46,706 --> 01:25:49,231
[melolong]

2002
01:25:49,274 --> 01:25:51,581
KAROLINE:
Ketika Anda melihat ke belakang,

2003
01:25:51,624 --> 01:25:54,453
dunia selalu berakhir.

2004
01:25:54,497 --> 01:25:56,803
Dan ketika Anda melihat ke depan,

2005
01:25:56,847 --> 01:25:59,241
dunia selalu berakhir.

2006
01:25:59,284 --> 01:26:02,157
...terbakar.
Satu rumah sudah terbakar...

2007
01:26:02,200 --> 01:26:05,377
CAROLINE: Tapi dunia
selalu dimulai juga.

2008
01:26:07,988 --> 01:26:09,947
DANIEL:
Apakah kamu siap?

2009
01:26:09,990 --> 01:26:11,992
Apakah kamu pernah benar-benar siap?

2010
01:26:15,909 --> 01:26:17,650
DANIEL: Anda ingin mengemudi
atau kamu ingin aku menyetir?

2011
01:26:17,694 --> 01:26:18,782
KAROLINE:
Anda mengemudi.

2012
01:26:20,479 --> 01:26:21,828
-[wanita berbicara tidak jelas]
-KAROLINE: Oke.

2013
01:26:21,872 --> 01:26:23,700
DANIEL:
Terima kasih Maria.

2014
01:26:23,743 --> 01:26:26,268
WANITA: Itu akan terjadi begitu saja
terasa sangat kram.

2015
01:26:26,311 --> 01:26:27,791
-KAROLINE: Oke.
-WANITA: Kamu siap?

2016
01:26:27,834 --> 01:26:29,053
-KAROLINE: Ya.
-[obrolan tidak jelas]

2017
01:26:29,096 --> 01:26:30,924
[Caroline menghela nafas berat]

2018
01:26:30,968 --> 01:26:32,404
WANITA: Anda bisa saja berada di a
drama medis dengan semua itu...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[kresek statis]
-[obrolan tidak jelas]

2021
01:26:49,116 --> 01:26:51,075
WANITA:
...beberapa tekanan.

2022
01:26:52,685 --> 01:26:54,078
Santai aja.

2023
01:26:56,907 --> 01:26:59,214
-[bayi menangis]
-[perangkat berbunyi bip]

2024
01:27:02,129 --> 01:27:04,915
DANIEL:
Hai sobat. Ooh.

2025
01:27:04,958 --> 01:27:06,438
Hai sobat.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
KEVIN:
Ini akan menjadi dunia yang benar-benar baru

2028
01:27:33,726 --> 01:27:35,032
untukmu, Daniel.

2029
01:27:37,208 --> 01:27:40,080
Dan menurutku kamu akan menjadi seperti itu
seorang ayah yang luar biasa.

2030
01:27:41,517 --> 01:27:44,346
JOANNE [terkekeh]:
Itu sudah pasti.

2031
01:27:44,389 --> 01:27:46,609
-[Kevin menangis]
-Oh.

2032
01:27:46,652 --> 01:27:48,654
[menangis terus]

2033
01:27:48,698 --> 01:27:50,787
KEVIN:
Anda akan melakukan pekerjaan dengan baik.

2034
01:27:51,788 --> 01:27:53,050
JOANNE:
Kev, kenapa kamu menangis?

2035
01:27:53,093 --> 01:27:54,617
KEVIN:
aku menangis karena...

2036
01:27:54,660 --> 01:27:57,054
Saya tidak tahu. aku hanya tidak...

2037
01:27:57,097 --> 01:27:59,317
DANIEL: Ayah, kamu akan melakukannya
membuatku menangis juga.

2038
01:27:59,361 --> 01:28:00,710
Mengapa kamu menangis?

2039
01:28:03,190 --> 01:28:05,497
KEVIN: Saya baru tahu itu
kamu akan menjadi ayah yang luar biasa.

2040
01:28:05,541 --> 01:28:07,107
DANIEL [menangis]:
Aku hanya akan menjadi ayah yang hebat

2041
01:28:07,151 --> 01:28:09,675
karena aku punya ayah yang hebat.

2042
01:28:09,719 --> 01:28:12,287
KEVIN: Saya menjadi emosional,
itu saja.

2043
01:28:12,330 --> 01:28:13,679
JOANNE:
Ah.

2044
01:28:13,723 --> 01:28:14,898
[obrolan lucu melalui video]

2045
01:28:14,941 --> 01:28:16,552
[melalui video]:
Wah, oh, nak!

2046
01:28:16,595 --> 01:28:17,857
Ya ampun!

2047
01:28:18,902 --> 01:28:20,817
Lihatlah anak-anak nakal itu.

2048
01:28:20,860 --> 01:28:24,777
Lihatlah anak-anak nakal itu.
Lihatlah anak-anak nakal itu.

2049
01:28:24,821 --> 01:28:26,344
Ya.

2050
01:28:26,388 --> 01:28:28,433
DANIEL:
Saya tahu bagaimana mengakhiri film ini.

2051
01:28:29,478 --> 01:28:32,263
Bayi.

2052
01:28:32,307 --> 01:28:35,266
-Akhir film adalah tentang
sayang.-[obrolan melalui video]

2053
01:28:35,310 --> 01:28:37,094
Itu menguatkan kehidupan.

2054
01:28:37,137 --> 01:28:38,922
Itu melelahkan.

2055
01:28:38,965 --> 01:28:40,793
-[bayi tertawa]
-Mereka lucu.

2056
01:28:40,837 --> 01:28:42,665
Dan itu sepadan.

2057
01:28:42,708 --> 01:28:46,451
Film ini bukan tentang
cara kerja bagian dalam suatu teknologi.

2058
01:28:46,495 --> 01:28:48,235
Ini bukan tentang
para CEO miliarder.

2059
01:28:48,279 --> 01:28:50,194
Ini bukan tentang geopolitik.

2060
01:28:50,237 --> 01:28:53,589
Ini bukan tentang hal yang menakutkan
masa depan atau akhir dunia,

2061
01:28:53,632 --> 01:28:55,678
karena duniaku
baru saja dimulai.

2062
01:28:55,721 --> 01:28:57,375
Saya sedang membangun tempat tidur bayi.

2063
01:28:57,419 --> 01:28:59,290
Di sini, sekarang juga.

2064
01:28:59,334 --> 01:29:00,465
[bayi menderu-deru]

2065
01:29:00,509 --> 01:29:02,337
AI akan mengubah segalanya

2066
01:29:02,380 --> 01:29:05,601
dengan cara yang terlalu kuat dan
rumit untuk kita pahami.

2067
01:29:05,644 --> 01:29:08,952
Dan masa depan tidak
bagi siapa pun di antara kita untuk memutuskan.

2068
01:29:10,736 --> 01:29:13,609
Tapi yang bisa saya putuskan adalah menjadi
suami terbaik

2069
01:29:13,652 --> 01:29:17,700
untuk istriku dan yang terbaik
kemungkinan ayah untuk anakku.

2070
01:29:17,743 --> 01:29:21,399
Jadi apakah masa depan AI kita adalah
distopia yang mengerikan

2071
01:29:21,443 --> 01:29:23,836
atau utopia
yang kita semua impikan,

2072
01:29:23,880 --> 01:29:26,883
Setidaknya aku akan tahu
bahwa saya melakukan semua yang saya bisa

2073
01:29:26,926 --> 01:29:30,103
untuk membimbing keluargaku
melalui revolusi AI ini.

2074
01:29:30,147 --> 01:29:33,846
Dan tidak peduli apa,
kita akan menghadapinya bersama-sama.

2075
01:29:33,890 --> 01:29:35,195
[musik yang membangkitkan semangat membengkak]

2076
01:29:35,239 --> 01:29:36,806
[musik berhenti tiba-tiba]

2077
01:29:36,849 --> 01:29:40,505
DANIEL:
Jadi itu hanya ide pertama kami.

2078
01:29:40,549 --> 01:29:42,812
Bagaimana rasanya?
Apakah kamu merasakan ini?

2079
01:29:42,855 --> 01:29:45,249
Tunggu, aku-- sepertinya, ini bukan--
ini adalah lelucon.

2080
01:29:45,292 --> 01:29:47,425
Sebenarnya tidak
bagaimana kamu akan mengakhirinya.

2081
01:29:50,036 --> 01:29:52,648
Maksudku, itu hanya sebuah ide. Oke?

2082
01:29:52,691 --> 01:29:54,389
Tidak, Daniel.

2083
01:29:54,432 --> 01:29:56,129
...eh, sangat, sangat bodoh.

2084
01:29:56,173 --> 01:29:58,915
Anda baru saja menghabiskan, saya tidak
tahu, misalnya, berapa tahun

2085
01:29:58,958 --> 01:30:02,571
hidup kita mengerjakan ini,
berbicara dengan setiap pakar terkemuka

2086
01:30:02,614 --> 01:30:04,964
di planet ini tentang subjek,

2087
01:30:05,008 --> 01:30:07,663
dan kamu akan mengakhirinya

2088
01:30:07,706 --> 01:30:10,796
dengan beberapa, seperti,
omong kosong kumbaya?

2089
01:30:10,840 --> 01:30:13,495
Ada asteroid
menuju ke Bumi.

2090
01:30:13,538 --> 01:30:15,497
Apa pekerjaanmu? Hanya...

2091
01:30:15,540 --> 01:30:17,629
berpegangan tangan
dan semoga berhasil ya?

2092
01:30:17,673 --> 01:30:19,414
Sama sekali tidak.

2093
01:30:19,457 --> 01:30:22,286
Kita harus-- itu ha--
itu harus...

2094
01:30:22,329 --> 01:30:24,419
Akhir cerita harus...

2095
01:30:25,855 --> 01:30:27,900
KAROLINE:
Oke, hal pertama:

2096
01:30:27,944 --> 01:30:31,426
AI ada di sini,
dan itu akan tetap di sini.

2097
01:30:31,469 --> 01:30:32,905
Sialan itu keluar dari kudanya,

2098
01:30:32,949 --> 01:30:35,430
tapi kudanya
akan terus buang air besar.

2099
01:30:38,171 --> 01:30:39,651
[penonton bersorak]

2100
01:30:39,695 --> 01:30:41,566
Anda tahu, salah satu yang mendasar
hukum sejarah

2101
01:30:41,610 --> 01:30:44,003
apakah itu bukan apa-apa
benar-benar mempunyai permulaan

2102
01:30:44,047 --> 01:30:45,962
dan tidak ada yang mempunyai akhir.

2103
01:30:46,005 --> 01:30:47,703
Itu terus berlanjut.

2104
01:30:47,746 --> 01:30:50,532
AI masih jauh dari itu
perkembangan penuhnya.

2105
01:30:50,575 --> 01:30:52,795
CAROLINE: Sekalipun
gelembung AI saat ini meledak,

2106
01:30:52,838 --> 01:30:54,579
-manusia tidak akan pernah berhenti
-[pembuat kebisingan berhembus]

2107
01:30:54,623 --> 01:30:57,539
membangun lebih banyak lagi
teknologi yang kuat.

2108
01:30:57,582 --> 01:30:59,410
HAO:
Anda dapat memilih untuk tidak menggunakan AI

2109
01:30:59,454 --> 01:31:02,239
atau berpartisipasi di dalamnya, tapi itu
akan mempengaruhimu pula.

2110
01:31:02,282 --> 01:31:04,023
DANIEL: Oke, luar biasa.
Jadi kita kacau.

2111
01:31:04,067 --> 01:31:06,635
CAROLINE: Tidak, kami tidak
karena satu hal sederhana.

2112
01:31:10,943 --> 01:31:12,989
Hal ini tidak bisa dihindari.

2113
01:31:13,032 --> 01:31:15,208
Andai saja kita bisa melihatnya
jelas bersama,

2114
01:31:15,252 --> 01:31:18,342
tanggapan yang jelas adalah
untuk memilih sesuatu yang berbeda.

2115
01:31:18,385 --> 01:31:21,040
Kita perlu melakukannya dengan sangat jelas
mengubah permainan

2116
01:31:21,084 --> 01:31:23,129
dari perlombaan hingga terbawah
dalam perlombaan menuju puncak.

2117
01:31:23,173 --> 01:31:27,438
LEAHY: Masalah yang perlu kita selesaikan
penyelesaiannya bukan AI secara spesifik.

2118
01:31:27,482 --> 01:31:31,224
Itu pertanyaan umum
tentang bagaimana kita membangun masyarakat

2119
01:31:31,268 --> 01:31:33,879
yang bisa diatasi
teknologi yang kuat.

2120
01:31:33,923 --> 01:31:35,359
Karena kita akan mendapatkan

2121
01:31:35,402 --> 01:31:36,795
hanya semakin kuat
teknologi.

2122
01:31:36,839 --> 01:31:39,668
KAROLINE:
Kita perlu meningkatkan masyarakat kita,

2123
01:31:39,711 --> 01:31:41,496
dan langkah pertama adalah
datang bersama-sama

2124
01:31:41,539 --> 01:31:43,367
-dan menuntut...
-SEMUA: Koordinasi.

2125
01:31:43,410 --> 01:31:47,023
Beberapa bentuk internasional
kerjasama atau kesepakatan tentang

2126
01:31:47,066 --> 01:31:48,503
norma apa yang seharusnya.

2127
01:31:48,546 --> 01:31:49,895
Anda tahu, bagaimana seharusnya
mereka dikerahkan...

2128
01:31:49,939 --> 01:31:51,549
Seperti, nyata
diplomasi internasional

2129
01:31:51,593 --> 01:31:53,290
di antara negara-negara adidaya.

2130
01:31:53,333 --> 01:31:56,293
Orang Tiongkok juga sama khawatirnya
tentang hal itu sebagai orang Amerika.

2131
01:31:56,336 --> 01:31:57,729
Menurutku itu sulit,
kamu tahu,

2132
01:31:57,773 --> 01:31:59,514
di saat ini
iklim geopolitik,

2133
01:31:59,557 --> 01:32:01,254
-tapi menurutku itu perlu.
-RASKIN: Tentu saja.

2134
01:32:01,298 --> 01:32:04,693
Dengan cara yang persis sama
terakhir kali umat manusia itu

2135
01:32:04,736 --> 01:32:09,611
mengembangkan sebuah teknologi
ini berbahaya...

2136
01:32:09,654 --> 01:32:12,396
... itu membutuhkan yang lengkap,
pergeseran yang belum pernah terjadi sebelumnya

2137
01:32:12,439 --> 01:32:15,530
dengan struktur dunia kita.

2138
01:32:15,573 --> 01:32:17,619
KAROLINE:
Jadi kita perlu melakukan itu secara menyeluruh,

2139
01:32:17,662 --> 01:32:20,883
pergeseran yang belum pernah terjadi sebelumnya lagi.

2140
01:32:20,926 --> 01:32:24,103
Anda tahu, kami-kami berbicara dengan orang-orang
yang bekerja di perusahaan AI ini,

2141
01:32:24,147 --> 01:32:25,322
dan mereka bilang mereka ingin melakukannya
sesuatu yang berbeda,

2142
01:32:25,365 --> 01:32:26,628
tapi mereka membutuhkan tekanan publik.

2143
01:32:26,671 --> 01:32:28,151
Mereka membutuhkan pemerintah
untuk melakukan sesuatu.

2144
01:32:28,194 --> 01:32:29,979
Lalu kita pergi ke DC,
dan mereka berkata,

2145
01:32:30,022 --> 01:32:31,850
“Yah, kita membutuhkan Silicon Valley
untuk melakukan sesuatu yang berbeda.

2146
01:32:31,894 --> 01:32:33,635
Merekalah yang akan pergi
datang dengan pagar pembatas."

2147
01:32:33,678 --> 01:32:35,680
Jadi semua orang menunjuk
jari pada orang lain,

2148
01:32:35,724 --> 01:32:39,466
dan yang mereka sepakati adalah
bahwa kita memerlukan tekanan publik

2149
01:32:39,510 --> 01:32:41,207
agar sesuatu yang lain
terjadi.

2150
01:32:41,251 --> 01:32:42,818
Dan itulah kamu

2151
01:32:42,861 --> 01:32:44,254
dan semua orang
menonton film ini bisa dilakukan.

2152
01:32:44,297 --> 01:32:45,298
KAROLINE:
Kita perlu mempertahankan para pemimpin

2153
01:32:45,342 --> 01:32:47,083
di pemerintahan kita

2154
01:32:47,126 --> 01:32:48,563
dan para pemimpin
perusahaan-perusahaan ini bertanggung jawab.

2155
01:32:48,606 --> 01:32:51,000
BOEREE:
Di negara mana pun Anda berada,

2156
01:32:51,043 --> 01:32:52,871
beri tahu mereka
bahwa kamu tidak bahagia

2157
01:32:52,915 --> 01:32:54,569
dengan status quo saat ini.

2158
01:32:54,612 --> 01:32:57,093
Jadi, ya, membosankan untuk mengatakannya
hubungi anggota kongres Anda.

2159
01:32:57,136 --> 01:32:59,356
Saya tidak mengatakan Anda harus melakukannya
lakukan saja itu, tapi, seperti,

2160
01:32:59,399 --> 01:33:00,923
kita memang harus melakukan itu.

2161
01:33:00,966 --> 01:33:02,402
Seperti, kita memang harus mendapatkannya
pemerintah yang terlibat.

2162
01:33:02,446 --> 01:33:03,839
DANIEL: Jadi kita hanya
telepon mereka dan katakan,

2163
01:33:03,882 --> 01:33:05,971
"Hei, hentikan Big Tech
dari menghancurkan dunia"?

2164
01:33:06,015 --> 01:33:08,887
CAROLINE: Tidak, tapi ada
banyak sekali yang sangat jelas,

2165
01:33:08,931 --> 01:33:10,672
hal-hal yang lugas
kita bisa menuntut.

2166
01:33:10,715 --> 01:33:12,499
Kami membutuhkan transparansi.

2167
01:33:12,543 --> 01:33:14,240
Kita harus mengakhiri kerahasiaannya
yang ada di dalam laboratorium ini,

2168
01:33:14,284 --> 01:33:16,634
karena mereka sedang membangun
teknologi yang kuat,

2169
01:33:16,678 --> 01:33:18,680
dan masyarakat berhak mengetahuinya
apa yang sedang terjadi.

2170
01:33:18,723 --> 01:33:20,682
Pada akhirnya,
kita akan memerlukan kemandirian,

2171
01:33:20,725 --> 01:33:23,249
pihak ketiga yang obyektif
untuk mengevaluasi sistem.

2172
01:33:23,293 --> 01:33:27,036
Kami tidak bisa mengandalkan perusahaan
untuk menilai pekerjaan rumah mereka sendiri.

2173
01:33:27,079 --> 01:33:31,170
Jika-jika suatu perusahaan menggunakan AI dan-dan
apakah AI berinteraksi dengan Anda,

2174
01:33:31,214 --> 01:33:34,957
itu harus mengungkapkan bahwa Anda memang demikian
berinteraksi dengan sistem AI.

2175
01:33:35,000 --> 01:33:38,613
Ya. Dan-dan juga kita membutuhkannya
sebuah sistem yang membuat perusahaan

2176
01:33:38,656 --> 01:33:41,833
bertanggung jawab secara hukum atas hal tersebut
Sistem AI yang mereka hasilkan.

2177
01:33:41,877 --> 01:33:45,750
Kita perlu memastikannya di sana
adalah tes dan standar keselamatan

2178
01:33:45,794 --> 01:33:48,013
yang diterapkan pada semua orang.

2179
01:33:48,057 --> 01:33:49,711
Kita memerlukan beberapa aturan dasar,

2180
01:33:49,754 --> 01:33:51,538
dan kita perlu terus beradaptasi
aturan-aturan itu

2181
01:33:51,582 --> 01:33:54,585
dengan kecepatan itu
teknologinya berkembang.

2182
01:33:54,629 --> 01:33:57,153
LEAHY: Saat ini ada
peraturan yang lebih banyak

2183
01:33:57,196 --> 01:33:59,285
tentang menjual sandwich
kepada publik

2184
01:33:59,329 --> 01:34:02,898
daripada yang ada di gedung
AGI yang berpotensi mengakhiri dunia.

2185
01:34:02,941 --> 01:34:04,682
KAROLINE:
Dan yang terakhir adalah

2186
01:34:04,726 --> 01:34:07,598
untuk meningkatkan diri kita sendiri.

2187
01:34:07,642 --> 01:34:09,731
Ini bukan pekerjaannya
dari, seperti, tim keselamatan

2188
01:34:09,774 --> 01:34:11,733
di laboratorium tertentu, atau CEO.

2189
01:34:11,776 --> 01:34:13,299
Jadi, seperti ini
pekerjaan semua orang.

2190
01:34:13,343 --> 01:34:14,779
Jangan, tinggalkan saja
hingga para ahli AI.

2191
01:34:14,823 --> 01:34:16,955
Seperti, [bip] itu.
Seperti, inilah saatnya

2192
01:34:16,999 --> 01:34:19,262
bahwa kita sedang melakukan transisi
dari, seperti,

2193
01:34:19,305 --> 01:34:21,525
sebagian besar kekuatan kognitif manusia
untuk, seperti, kekuatan kognitif AI,

2194
01:34:21,568 --> 01:34:23,092
dan itu mempengaruhi semua orang,

2195
01:34:23,135 --> 01:34:24,833
dan saya ingin orang-orang seperti itu
ikut serta dalam percakapan itu.

2196
01:34:24,876 --> 01:34:26,878
Dan saya akan mengatakannya, jika Anda berpikir
bahwa AI akan membunuh kita semua,

2197
01:34:26,922 --> 01:34:28,488
kamu seharusnya bekerja
dalam penelitian AI

2198
01:34:28,532 --> 01:34:30,229
untuk memastikan hal itu tidak terjadi,
karena kamu memang punya

2199
01:34:30,273 --> 01:34:32,188
sejumlah besar agensi.

2200
01:34:32,231 --> 01:34:33,842
KAROLINE:
Siapapun kamu,

2201
01:34:33,885 --> 01:34:35,844
kamu seorang ahli
di industri Anda sendiri,

2202
01:34:35,887 --> 01:34:39,151
di sekolahmu sendiri,
di keluargamu sendiri,

2203
01:34:39,195 --> 01:34:42,589
dan itu terserah kamu
bagaimana AI digunakan dalam hidup Anda.

2204
01:34:42,633 --> 01:34:44,983
Apakah Anda ingin bergabung
dewan sekolahmu

2205
01:34:45,027 --> 01:34:47,856
atau-atau apakah Anda ingin bertanya
majikan Anda

2206
01:34:47,899 --> 01:34:49,379
bagaimana mereka menggunakan
teknologi AI,

2207
01:34:49,422 --> 01:34:51,947
misalnya, kita semua bisa melakukan pekerjaan itu.

2208
01:34:51,990 --> 01:34:56,081
Banyak serikat pekerja telah terbentuk
cukup efektif dalam, seperti,

2209
01:34:56,125 --> 01:34:59,041
menentukan bagaimana yang mereka inginkan
untuk berinteraksi dengan sistem ini.

2210
01:34:59,084 --> 01:35:02,697
-Serikat perawat, serikat guru.
-[nyanyian tidak jelas]

2211
01:35:02,740 --> 01:35:04,568
DANIELA AMODEI: Saya ingin sekali
jika orang tua dimana-mana

2212
01:35:04,611 --> 01:35:06,135
pergi ke perusahaan AI
dan berkata,

2213
01:35:06,178 --> 01:35:08,006
"Bagaimana kamu bisa menjadi lebih baik
dalam hal ini?" Termasuk kita.

2214
01:35:08,050 --> 01:35:11,183
Jadi, saya mendirikan Encode Justice
saat aku berumur 15 tahun.

2215
01:35:11,227 --> 01:35:14,839
Kami adalah yang pertama di dunia
dan pasukan pemuda terbesar

2216
01:35:14,883 --> 01:35:18,364
berjuang untuk berpusat pada manusia
kecerdasan buatan.

2217
01:35:18,408 --> 01:35:21,019
Tidak peduli siapa Anda,
bahkan tindakan terkecil pun membantu,

2218
01:35:21,063 --> 01:35:23,935
dan bahkan percakapan pun dimulai
sungguh, sangat berharga.

2219
01:35:23,979 --> 01:35:25,937
DANIEL:
Jadi pekerjaan saya bisa jadi, seperti,

2220
01:35:25,981 --> 01:35:27,939
beritahu Bubby Lila tentang ini
saat makan malam?

2221
01:35:27,983 --> 01:35:29,767
CAROLINE: Sejujurnya, ya,
itu bagian dari itu.

2222
01:35:29,811 --> 01:35:31,638
Dan kita harus melakukannya

2223
01:35:31,682 --> 01:35:34,424
banyak hal itu
kita bahkan belum memikirkannya.

2224
01:35:34,467 --> 01:35:36,034
Orang-orang akan melihatnya
apa pun yang telah kami uraikan

2225
01:35:36,078 --> 01:35:37,253
dan berkata, "Itu tidak cukup."

2226
01:35:37,296 --> 01:35:38,950
Yang penting adalah kekuatannya

2227
01:35:38,994 --> 01:35:40,909
yang berfungsi
menuju solusi

2228
01:35:40,952 --> 01:35:44,434
mulai melebihi kekuatan itu
sedang bekerja melawan solusi.

2229
01:35:44,477 --> 01:35:46,392
Membuat dunia menjadi lebih baik
selalu sulit.

2230
01:35:46,436 --> 01:35:47,829
Ini tidak pernah mudah.

2231
01:35:47,872 --> 01:35:49,961
Seperti, sudah ada
banyak hal buruk

2232
01:35:50,005 --> 01:35:51,920
yang telah terjadi dalam sejarah,
dan kami sudah--

2233
01:35:51,963 --> 01:35:53,704
seperti, orang-orang pernah mengalaminya
untuk menghadapi hal itu,

2234
01:35:53,748 --> 01:35:56,794
dan kemudian mereka bangkit
dan mengubahnya.

2235
01:35:56,838 --> 01:36:00,319
Ada angka yang gila
tantangan di depan kita,

2236
01:36:00,363 --> 01:36:04,106
tapi jika kita bisa melewatinya,

2237
01:36:04,149 --> 01:36:08,066
kita bisa membuka masa depan yang lebih jauh lagi
imajinasi terliar kita.

2238
01:36:08,110 --> 01:36:10,416
KAROLINE:
Kita harus bersatu

2239
01:36:10,460 --> 01:36:14,246
dan temukan jalan di antaranya
janji dan bahayanya.

2240
01:36:14,290 --> 01:36:16,422
Kita tidak boleh pesimis
atau optimis.

2241
01:36:17,423 --> 01:36:19,425
Kita harus menjadi sesuatu yang baru.

2242
01:36:21,732 --> 01:36:24,474
Seorang teman saya menelepon saya
seorang apokaloptimis.

2243
01:36:24,517 --> 01:36:26,041
"Apokaloptimis"?

2244
01:36:26,084 --> 01:36:28,260
Saya pikir itu mungkin saja terjadi
kata favoritku yang baru.

2245
01:36:28,304 --> 01:36:29,914
-[tertawa] -MAN: Mungkin saja
nama film ini.

2246
01:36:29,958 --> 01:36:31,263
-Itu mungkin namanya
dari film ini. -[tertawa]

2247
01:36:31,307 --> 01:36:34,179
-"Apokaloptimis."
-"Apokaloptimis."

2248
01:36:34,223 --> 01:36:35,833
Ya.

2249
01:36:35,877 --> 01:36:37,269
Saya tidak percaya pada malapetaka.

2250
01:36:37,313 --> 01:36:39,054
Aku percaya pada semangat hidup,

2251
01:36:39,097 --> 01:36:42,666
eh, dan aku percaya hidup itu ada
tentang kapasitas untuk bertindak.

2252
01:36:42,709 --> 01:36:44,276
-[penonton bernyanyi]
-Kemampuan untuk berhubungan,

2253
01:36:44,320 --> 01:36:46,365
kemampuan untuk merasakan.

2254
01:36:49,020 --> 01:36:50,979
-[obrolan misi tidak jelas]
-[bersorak]

2255
01:36:51,022 --> 01:36:53,938
Kita harus menggandakannya
semakin banyak

2256
01:36:53,982 --> 01:36:57,028
pada kapasitas tersebut
yang kita miliki sebagai manusia

2257
01:36:57,072 --> 01:37:00,118
sistem robotik itu
tidak akan pernah memilikinya.

2258
01:37:00,162 --> 01:37:04,296
Saatnya sekarang
untuk membuat keputusan tersebut

2259
01:37:04,340 --> 01:37:07,473
bagaimana membimbingnya dan mendukungnya
daripada memecah belah kita.

2260
01:37:07,517 --> 01:37:10,259
DANIEL: Kedengarannya seperti itu
membesarkan seorang anak.

2261
01:37:10,302 --> 01:37:12,435
Itulah yang terjadi. Ya.

2262
01:37:12,478 --> 01:37:14,480
CAROLINE: AI mungkin punya
kecerdasan yang lebih mentah

2263
01:37:14,524 --> 01:37:17,222
-daripada otak manusia kecil kita,
-[bayi tertawa]

2264
01:37:17,266 --> 01:37:21,052
tapi kami lebih dari itu
dari sekedar kecerdasan kita.

2265
01:37:21,096 --> 01:37:25,056
Kecerdasan adalah-adalah
kemampuan untuk memecahkan masalah.

2266
01:37:25,100 --> 01:37:28,320
Kebijaksanaan adalah kemampuan untuk mengetahui
masalah apa yang harus dipecahkan.

2267
01:37:30,932 --> 01:37:33,717
[obrolan kru tidak jelas]

2268
01:37:33,760 --> 01:37:34,892
DANIEL:
Itu bisa disimpan di lemari es Anda.

2269
01:37:34,936 --> 01:37:36,198
[tertawa]

2270
01:37:36,241 --> 01:37:38,113
YUDKOWSKY:
Jadi, jangan menyerah.

2271
01:37:38,156 --> 01:37:39,766
Kemanusiaan telah melakukannya

2272
01:37:39,810 --> 01:37:42,160
hal yang lebih sulit dari ini
dalam sejarahnya.

2273
01:37:43,553 --> 01:37:46,338
Sulit untuk meyakinkan
orang-orang yang seharusnya mereka lakukan.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[audio berderak]

2276
01:37:54,912 --> 01:37:56,827
DANIEL: Jadi, ketika saya mulai
membuat film ini,

2277
01:37:56,871 --> 01:37:58,437
Menurutku, aku seperti,

2278
01:37:58,481 --> 01:38:00,918
secara umum bajingan sinis
tentang semua ini.

2279
01:38:00,962 --> 01:38:03,094
Selama kursus
dalam pembuatan filmnya,

2280
01:38:03,138 --> 01:38:04,661
Saya mulai mengerti
itu, seperti,

2281
01:38:04,704 --> 01:38:07,446
itulah satu-satunya hal
kita tidak bisa.

2282
01:38:07,490 --> 01:38:09,361
...atau apa pun
kamu ingin berdiskusi?

2283
01:38:09,405 --> 01:38:11,363
Tidak. Saya rasa kita telah membahas banyak hal.

2284
01:38:11,407 --> 01:38:13,017
-Ya. [terkekeh]
-MAN: Terima kasih banyak.

2285
01:38:13,061 --> 01:38:15,498
Terima kasih.

2286
01:38:15,541 --> 01:38:16,891
DANIEL:
Ini adalah masalah yang lebih besar

2287
01:38:16,934 --> 01:38:19,067
daripada satu orang pun.

2288
01:38:19,110 --> 01:38:21,547
Ini akan mengubah dunia
cara yang tidak kita mengerti.

2289
01:38:21,591 --> 01:38:23,462
Itu semua benar.

2290
01:38:23,506 --> 01:38:25,551
-[tertawa]: Oke.
-[obrolan tidak jelas]

2291
01:38:25,595 --> 01:38:27,684
DANIEL:
Tapi apa yang kita punya adalah hak pilihan

2292
01:38:27,727 --> 01:38:30,078
adalah apa yang kita lakukan tentang hal itu.

2293
01:38:30,121 --> 01:38:32,558
Seiring berkembangnya AI perbatasan
secara eksponensial lebih mampu...

2294
01:38:32,602 --> 01:38:34,430
DANIEL:
Dan kenyataannya

2295
01:38:34,473 --> 01:38:36,562
apakah itu jika kita memutuskannya saja
tidak ada harapan,

2296
01:38:36,606 --> 01:38:39,000
maka itu tidak ada harapan.

2297
01:38:39,043 --> 01:38:40,740
...untuk mengurangi stres
di planet Bumi...

2298
01:38:40,784 --> 01:38:42,742
DANIEL:
Tapi jika Anda memutuskan

2299
01:38:42,786 --> 01:38:45,528
yang ingin kamu coba...

2300
01:38:46,790 --> 01:38:48,096
...lalu kamu mencobanya.

2301
01:38:48,139 --> 01:38:49,967
Dan itu sulit.

2302
01:38:51,273 --> 01:38:53,188
Tapi tahukah Anda?

2303
01:38:53,231 --> 01:38:56,278
Hal-hal besar tampaknya mustahil
sebelum hal itu benar-benar terjadi.

2304
01:38:58,149 --> 01:39:01,413
Namun ketika hal itu akhirnya terjadi,

2305
01:39:01,457 --> 01:39:05,243
itu karena jutaan orang
mengambil jutaan tindakan

2306
01:39:05,287 --> 01:39:07,550
untuk mewujudkannya.

2307
01:39:07,593 --> 01:39:10,292
Dan begitu...

2308
01:39:10,335 --> 01:39:12,424
kita harus mencoba.

2309
01:39:13,469 --> 01:39:14,905
[menghela nafas berat]

2310
01:39:21,129 --> 01:39:23,522
Terlalu banyak yang dipertaruhkan.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[film berderak]

2313
01:39:37,232 --> 01:39:41,236
Lihatlah perubahan yang luar biasa
kami telah mengalami dan bertahan

2314
01:39:41,279 --> 01:39:42,846
dari Zaman Batu,

2315
01:39:42,889 --> 01:39:46,110
namun perubahan yang lebih besar
masih akan datang.

2316
01:39:46,154 --> 01:39:49,157
["Hilang karena Mencoba"
oleh Son Lux bermain]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ Apa yang akan kita lakukan sekarang? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ Kita kalah dalam mencoba ♪

2320
01:40:53,264 --> 01:40:55,092
♪ Kita telah kehilangannya ♪

2321
01:40:55,136 --> 01:40:56,746
♪ Untuk mencoba ♪

2322
01:40:59,575 --> 01:41:02,230
♪ Apa yang akan kita lakukan sekarang? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ Kita kalah dalam mencoba ♪

2324
01:41:05,233 --> 01:41:06,973
♪ Kita telah kehilangannya ♪

2325
01:41:07,017 --> 01:41:08,714
♪ Untuk mencoba ♪

2326
01:41:11,630 --> 01:41:14,111
♪ Apa yang bisa kami katakan sekarang? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ Mulut kami hanya berbohong ♪

2328
01:41:17,245 --> 01:41:18,637
♪ Mulut kita ♪

2329
01:41:18,681 --> 01:41:20,683
♪ Hanya berbohong ♪

2330
01:41:25,122 --> 01:41:27,690
♪ Apa yang bisa kami katakan sekarang? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ Mulut kami hanya berbohong ♪

2332
01:41:30,867 --> 01:41:32,216
♪ Mulut kita ♪

2333
01:41:32,260 --> 01:41:34,218
♪ Hanya berbohong ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ Menyerah dan keluar ♪

2336
01:42:03,769 --> 01:42:06,685
♪ Kita bangkit dalam keadaan sekarat ♪

2337
01:42:06,729 --> 01:42:08,209
♪ Kami bangkit ♪

2338
01:42:08,252 --> 01:42:10,211
♪ Dalam keadaan sekarat ♪

2339
01:42:13,127 --> 01:42:15,781
♪ Menyerah dan keluar ♪

2340
01:42:15,825 --> 01:42:18,654
♪ Kita bangkit dalam keadaan sekarat ♪

2341
01:42:18,697 --> 01:42:20,221
♪ Kami bangkit ♪

2342
01:42:20,264 --> 01:42:22,223
♪ Dalam keadaan sekarat ♪

2343
01:42:25,051 --> 01:42:27,663
♪ Menyerah dan keluar ♪

2344
01:42:27,706 --> 01:42:30,666
♪ Kita bangkit dalam keadaan sekarat ♪

2345
01:42:30,709 --> 01:42:32,233
♪ Kami bangkit ♪

2346
01:42:32,276 --> 01:42:34,148
♪ Dalam keadaan sekarat ♪

2347
01:42:37,107 --> 01:42:39,718
♪ Menyerah dan keluar ♪

2348
01:42:39,762 --> 01:42:42,591
♪ Kita bangkit dalam keadaan sekarat ♪

2349
01:42:42,634 --> 01:42:43,809
♪ Kami ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ Oh, oh, oh, oh, oh ♪

2353
01:43:25,329 --> 01:43:26,983
♪ Oh, oh, oh, oh ♪

2354
01:43:27,026 --> 01:43:28,419
♪ Oh, oh ♪

2355
01:43:28,463 --> 01:43:31,379
♪ Oh, oh, oh, oh, oh, oh ♪

2356
01:43:31,422 --> 01:43:32,945
♪ Oh, oh, oh, oh ♪

2357
01:43:32,989 --> 01:43:34,382
♪ Oh, oh ♪

2358
01:43:34,425 --> 01:43:37,036
♪ Oh, oh, oh, oh, oh, oh ♪

2359
01:43:37,080 --> 01:43:39,648
♪ Apa yang akan kita lakukan sekarang? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ Kita kalah dalam mencoba ♪

2361
01:43:42,694 --> 01:43:44,566
♪ Kita telah kehilangannya ♪

2362
01:43:44,609 --> 01:43:46,307
♪ Untuk mencoba ♪

2363
01:43:46,350 --> 01:43:49,005
♪ Oh, oh, oh, oh, oh, oh ♪

2364
01:43:49,048 --> 01:43:51,703
♪ Apa yang akan kita lakukan sekarang? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ Kita kalah dalam mencoba ♪

2366
01:43:54,750 --> 01:43:56,578
♪ Kita telah kehilangannya ♪

2367
01:43:56,621 --> 01:43:58,406
♪ Untuk mencoba. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[lagu berakhir]